大型科技公司的人工智能放缓是安全协议还是卡特尔？

当 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman)、Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei)、谷歌 DeepMind 联合创始人德米斯·哈萨比斯 (Demis Hassabis) 和 SpaceX 负责人埃隆·马斯克 (Elon Musk) 周末大致同意放慢人工智能开发速度时，怀疑论者立即发现了别有用心的动机。人工智能巨头宣称，他们的目标是“开拓前沿”，至少部分签署了一项关于嵌入第三方审计师、监管国内实验室以及达成全球放缓协议的提案。然而，他们的批评者认为，他们只是想阻止潜在的竞争对手，削弱开源运动，并避免真正的法律保障——一些人称其为彻头彻尾的“卡特尔”。据业内人士透露，事实更为复杂。阿莫迪在一篇文章中提出了三步走的建议，呼吁人工智能安全倡导者进行长期支持的变革。尽管它可能成为有意义的监管的替代品，但在特朗普的领导下，监管无论如何是不可能的。但专家表示，在一个只会变得越来越重要的问题上，人工智能领导者并不是引领这一潮流的最佳人选。 “整个行业需要新的冠军，”纽约大学兼职教授、国土安全部新兴技术政策前主任尼克·里斯 (Nick Reese) 说。 “我们把达里奥·阿莫迪、萨姆·奥尔特曼和埃隆·马斯克等人视为最接近问题并每天致力于解决问题的人，他们是最了解问题的人。但事实是，我们从来没有对我们正在建设的目标有一个现实的愿景。” “整个行业需要新的冠军。”几个月来，人们对人工智能的担忧一直在升级，这主要是由于有人揭露特工是在领先的前沿实验室 Anthropic 和 OpenAI 眼皮底下进行的流氓黑客攻击的幕后黑手。两家公司的报告火上浇油，人类学研究员雅各布·考克森(Jacob Coxon)的辞职也火上浇油，他发表了一封公开信解释了自己的选择。他写道：“构建人工智能的人们真诚地相信，到本世纪末，它可能会杀死我们所有人。”他补充道，OpenAI 和 Anthropic 都没有“负责任地行事”，而是“直接与自我完善的超级智能赛跑，并用我们的生命进行赌博”。关于人工智能的可怕警告在行业内并不是什么新鲜事，但考克森的信似乎打破了遏制。仅 X 上的观看次数就超过 1.7 亿次，而考克森和他的故事也在报纸和电视上广为流传。然而，对于大部分人工智能安全研究人员和人工智能非营利工作者来说，这只是让人们更多地关注一个已经广泛讨论的问题。 “很多人认为这是达里奥的想法，或者来自首席执行官的想法，但这是错误的，”前 OpenAI 员工、现在领导 AI 研究非营利组织 AI Futures Project 的 Daniel Kokotajlo 说。 “公司外部的人多年来一直在呼吁这一点……越来越多的声音说，‘请不要很快建立超级智能。我们还没有准备好。你需要放慢速度。’”科科塔伊洛表示，经过多年的人们“大喊大叫让他们这样做”——包括 1000 多名人工智能实验室员工从 7 月开始签署一封公开信，呼吁在 OpenAI-Hugging Face 事件后放慢人工智能的发展——首席执行官们现在“现在屈服于这种压力，并为此声称自己的功劳，[尽管]不正确。”总体而言，一些消息人士告诉 The Verge，他们认为人工智能领导者达成的口头协议是朝着正确方向迈出的一步。纽约大学的里斯表示，他“不认为这都是空话”。阿波罗研究公司首席执行官马吕斯·霍布哈恩称其为“一个好主意”，并表示“如果它真的发生的话，这将是很长一段时间内安全性最好的事情之一。”迈达斯计划的泰勒·约翰斯顿表示，这是一个“好兆头”。 Redwood Research 首席执行官 Buck Shlegeris 表示，这是“一些好消息——显然很难知道这是否会转化为任何真实的东西，但我感到谨慎乐观。”不过，所有人都同意，要使这一口头承诺成为现实，还有很多工作要做，特别是在使其成为铁定协议方面。 “如果这真的发生的话，这将是很长一段时间以来最安全的事情之一。”许多人仍然质疑人工智能领导者的动机。规模较大的科技行业多年来一直通过游说自己喜欢的规则或承诺自我监管来领先于监管。大平台提出的政策可能会对较小的竞争对手造成更大的打击，并使用利他主义的语言来证明自私目标的合理性。他们被指责进行安全清洗，或者做出毫无意义的改变，给人留下实际安全措施的错误印象。毫不奇怪，人们担心人工智能行业也会发生这种情况，特别是因为人工智能实验室的自愿安全框架多年来一直受到批评。一些消息来源认为，对安全洗涤的担忧是有道理的。科科塔洛说：“人们严重担心他们实际上不会放慢速度。”他补充说，担心的是