ARTICLE / 极客公园

「AI 七巨头」在白宫做出「8 大承诺」,他们都承诺了什么?

2023年07月25日 13:32 · 来自 极客公园

阅读原文 → 收藏

就在 Meta 公布了新一代开源大语言模型 Llama 2 三天之后,公司高层就和微软、OpenAI、亚马逊、Anthropic 等七家目前在 AI 行业中的巨头和炙手可热的创业公司管理人员,再次聚首美国白宫。 在这次的活动中,七家公司签订了一份「自愿承诺书」(Voluntary Commitments),就 AI 技术和研发的安全、透明、以及风险等做出「8 大承诺」。 AI 公司「求监管」的戏码,到此达到了一个小高潮 。 NYT 专栏作者 Kevin Roose 撰文,详解了这「8 大承诺」到底都说了什么,以及因此带来的改变。 研究的结果是,这 8 项承诺,例如安全测试、分享 AI 安全信息、报告漏洞以及「优先用 AI 解决社会挑战」,看起来都是一些大问题,而对应的承诺也缺乏细节,其中不少问题本身就是 AI 公司已经「公示」给大众的。 此 份「资源承诺书」,更像是过去半年美国监管层对 AI 公司数次问询的一次间接性的「成果展示」,很可能不具备太多执行层面的意义 。但是,监管对于 AI 数次表示关切,标明政府对于 AI 技术应用的立场,才是这场秀最大的意义。 以下为 Kevin Roose 对于「自愿承诺书」中 8 项承诺的解读: 作者:Kevin Roose 来源:NYT 链接:https://www.nytimes.com/2023/07/22/technology/ai-regulation-white-house.html 编译:靖宇 承诺 1:公司承诺在发布人工智能系统之前,对其进行内部和外部安全测试。 这些人工智能公司在发布之前都已经对其模型进行了安全测试——通常称为「红队测试」。从某种程度上来说, 这并不是一个真正的新承诺,它很模糊。没有提供有关需要进行何种测试或由谁进行测试的详细信息 。 在随后一份声明中,白宫仅表示,人工智能模型的测试「将部分由独立专家进行」,并重点关注「<strong