OpenAI、Anthropic、谷歌已经就人工智能安全问题进行了数周的谈判

OpenAI 全球政策负责人 Chris Lehane 周二告诉记者，正如彭博社首先报道的那样，该公司几周来一直在与竞争对手 Anthropic 和 Google DeepMind 在人工智能安全方面进行合作。据报道，勒哈恩正在华盛顿与美国立法者合作解决与人工智能相关的灾难性风险。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 周六发表了一篇文章，呼吁业界共同努力，减缓前沿人工智能的发展步伐，避免灾难性风险。整个行业的人工智能领导者，包括 OpenAI 的 Sam Altman、谷歌的 Demis Hassabis 和 SpaceXAI 的 Elon Musk，都支持 Amodei 的信函和行动呼吁，Altman 表示 OpenAI 将与 Anthropic 一起在公司中嵌入第三方评估人员以监控安全。周二，勒哈恩承认，这三家公司已经就人工智能安全问题进行了数周的谈判。包括奥特曼在内的一些人指出，如果发现这种协调是为了抑制竞争，此类谈判可能会使这些公司面临违反反垄断法的风险。阿莫代的文章提出了一项狭隘的政府豁免，允许这种安全协调，但据报道，勒哈恩表示，这些公司不需要这样的豁免。该消息证实了之前的报道，并暗示两家公司正在合作。在上周晚些时候接受《财富》杂志采访时，奥特曼暗示他一直在与其他人工智能领导者进行私下讨论。本周，《The Information》报道称，这三家公司一直在共同努力为人工智能行业创建一个标准机构——据报道，奥特曼告诉员工，如果没有美国政府的支持，这件事就需要发生。哈萨比斯在 7 月份呼吁美国建立一个新的标准机构，充当人工智能监管机构，有权筛选世界上最先进的模型，并在危险扩大时协调整个行业的放缓。特朗普总统则将安全担忧视为骗局，并驳斥了加强监管的必要性，称任何放缓都会让中国在竞争中占据优势。他的主要人工智能顾问大卫·萨克斯（David Sacks）是一位长期投资者，个人在该行业的大部分领域拥有股份，他对此表示赞同，称对人工智能带来的生存风险的担忧被夸大了。在同一个周二的会议上，Lehane 表示 OpenAI 支持《前沿法案》中的一项条款，该条款将迫使顶级前沿实验室允许“独立验证组织”进入其公司，以确保模型的安全开发。 TechCrunch 已联系 Anthropic、Google 和 OpenAI 征求意见。