人工智能安全争论是关于安全还是控制？

科技行业应该如何看待人工智能安全话题？越来越多的高层管理人员开始权衡这个问题，因为像“拥抱脸”事件这样的事件（OpenAI 代理入侵了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘，这一争论正在激烈进行。最近几周，知名实验室呼吁放慢人工智能的发展速度。最引人注目的是，首席执行官达里奥·阿莫迪 (Dario Amodei) 写了一篇近 4,000 字的文章，其中阐述了为什么人工智能开发应该减速，以便部署足够的护栏。该计划除其他外，还涉及公司和政府之间关于安全部署的国际合作战略。 OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 等竞争对手的 AI 高管都支持 Amodei 的计划。这篇文章引发了整个科技行业的进一步讨论，尽管并非所有人都同意阿莫迪呼吁全球协调行动。事实上，许多人似乎认为政府监管根本不需要发挥作用。这场辩论的最新参与者包括 Meta 首席执行官马克·扎克伯格 (Mark Zuckerberg)，他本周在 X 上分享了他对此事的看法。 “我的观点是，信任和一致性正在迅速成为区分代理和模型的最重要的能力。”扎克伯格透露，出于安全考虑，他的公司推迟了人工智能模型的发布。扎克伯格表示：“为了关注安全，Meta 将 Muse 的发货推迟了几个月。” “我们并没有要求其他人先于我们这样做。我们只是将其作为日常工作的一部分，因为这显然对人们和我们来说都是正确的事情。”扎克伯格支持阿莫迪计划的部分内容，他似乎暗示政府行动是不必要的，构建行业的有机激励措施将迫使公司采取正确的安全措施。市场最终应该为那些注意创建不会造成混乱的模式的公司带来成功。这似乎与扎克伯格自己上个月写的长篇文章一致，该文章主张在必要时与政府进行有限的合作，但主要吹捧美国的竞争力是繁荣的技术未来的关键。总的来说，这似乎是许多其他科技高管的立场。另一位插话的高管是 Reddit 联合创始人亚历克西斯·奥哈尼安 (Alexis Ohanian)，他周三向 CNBC 表示，他认为科技行业在向公众解释人工智能的风险时基本上“充耳不闻”。然而，和扎克伯格一样，奥哈尼安似乎也表示希望公司能够自己解决问题。谷歌 DeepMind 联合创始人 Shane Legg 也分享了他的想法。 “我们现在生活在一个能力进步非常非常快的时代，”莱格说。 “但我们不能让能力凌驾于安全之上。”他补充道：“我们需要真正解决细节以及如何在实践中发挥作用。”尽管大型实验室呼吁公私合作，但其中一些支持监管的声音似乎也相对满足于让企业制定自己的规则。事实上，本周 The Information 的一篇报道虽然不太引人注目，但同样有趣，称 OpenAI、Anthropic 和其他主要人工智能公司正在共同创建一个人工智能标准组织——有媒体将其描述为私人“自律机构”。此前曾讨论过创建一个类似的联邦运营组织。然而，特朗普政府——其中包括人工智能的大力支持者，并在很大程度上推动了不受监管的科技业务（政府甚至试图强行阻止州政府引入自己的人工智能法律）——并没有采取任何行动。政府的“人工智能沙皇”、科技资深人士戴维·萨克斯(David Sacks)表示，人工智能监管应该留给开发它的公司。与白宫一样，国会知名议员似乎同样对接受阿莫迪监管其公司的提议不感兴趣。在 Anthropic 首席执行官的文章发表后不久，众议院议长迈克·约翰逊 (Mike Johnson) 就这样解决了人们对灾难性人工智能进步的担忧：“10 年内你们不会都死掉。”除非自愿承诺，私人组织将使该行业不受监管，并且自然会赋予负责创建该行业的公司一定的权力和影响力。这就引出了另一个持续存在的说法，即行业呼吁监管实际上是一种“监管捕获”策略。根据这一论点，已经在行业中享有突出地位的强大公司可能会利用监管策略来冷落规模较小、资源较少的公司或使其处于不利地位，从而扼杀它们的竞争。这不需要涉及实际的法规，但可能涉及自愿的行业标准