突发！全球千人联名逼AI贴纸，OpenAI、Anthropic带头签

新智元报道 一夜之间，硅谷大厂集体给AI踩刹车！ 刚刚，来自OpenAI、Anthropic、谷歌等巨头1100+核心员工联名，发起了「Pacing the Frontier」的请愿书。 这个名单上署名的人，多到一眼望不到头。而且，这个数字还在涨。 仔细一看，名单几乎集齐了AI圈的「半壁江山」—— OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen； Anthropic CEO Dario Amodei ，以及四位联创Jared Kaplan、Jack Clark、Chris Olah、Ben Mann； Meta首席科学家Shengjia Zhao（赵晟佳）、AI研究副总裁Dawn Song（宋晓冬）； Thinking Machines首席科学家、ChatGPT的核心缔造者之一John Schulman； 谷歌AI安全与对齐副总Anca Dragan..... 有人统计，46.2%签署的人来自Anthropic 在这个联名信中，它只提了一个要求—— 我们请求美国政府推动一项国际合作：研发必要的技术与治理工具，让世界有能力主动控制前沿自动化 AI 研发的节奏。 或许很多人不解，为何是这批搞LLM最疯的人，突然先喊出来「慢一点」？ 硅谷AI大佬联名：请给AI踩刹车 OpenAI模型对Hugging Face的「入侵」，犹如一记警钟。 短短一周的时间，1132位前沿AI大厂的员工集体发声，联名敦促美国政府「踩下刹车」。 参与此次联名的员工，分别来自OpenAI、Anthropic、谷歌、Meta等近12家前沿科技巨头。 更具分量的是，名单中有高达80%的人选择了实名发声。 传送门：https://www.pacingthefrontier.com/ 除了开篇提到的一些大佬，再往下翻，密度更吓人。 这份声明，抛出了一个令人警醒的核心判断： 全球领先的AI公司可能已经接近实现「自动化AI研究」 （RSI，递归自我改进） ，让模型参与研发下一代模型。 一旦这个循环加速，能力增长可能超过人类理解和控制的速度。 没有公司愿意单方面减速，所以他们要求美国政府支持建立国际机制，在危机到来之前，先把共同减速的工具造出来。 奥特曼首谈「切肤之痛」 OpenAI急踩刹车 就在声明发布一周前，OpenAI曾披露了一起安全事故—— 多个前沿模型在内部网络安全评测中自行发现零日漏洞、突破沙盒隔离，最终入侵Hugging Face的生产系统并取走测试答案。 OpenAI将其称之为「前所未有的网络安全事件」。 模型没有产生逃脱意图，它只是在极度专注地完成一个狭窄目标，并发现突破测试环境本身是最高效的路径。 就在今天，OpenAI CEO奥特曼公开表示，AI发展速度可能需要主动控制。 他对此心有余悸地表示，「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是，没有更多人对此感同身受」。 因为Hugging Face入侵这件事，OpenAI直接暂停了训练。 在一个多0day漏洞被串联利用的环境下，我们必须想办法加固沙盒安全。 我们可能不得不控制AI发展的速度，给社会足够的时间，围绕这些新的能力等级加固防线。 而Anthropic 6月曾建议政府与开发者建立共同决策系统，在必要时放慢研发。 与此同时，谷歌DeepMind CEO哈萨比斯也呼吁过建立国际监督机构。 过去三年，这些公司在人才、客户和算力上激烈竞争。 这一次，它们最核心的技术人员抛开停不下来的公司，为了全人类的福祉，团结一致，呼吁减速。 联名信：大佬金句 截止发稿前，「Pacing the Frontier」名单人数达到了1134人。 各路业界大佬也纷纷下场表态，留下了不少一针见血的「神级发言」。所有评论均以个人身份发表，不一定代表所在公司的立场。 宋晓东（Dawn Song） ｜Meta AI 研究副总裁 前沿 AI 能力正在快速提升，而且进步的速度本身也在加快。我们在评估工作中直接观察到了这一点。CyberGym 和 ExploitGym 的结果表明，前沿 AI 智能体已经能够发现并利用现实世界中的软件漏洞——如果没有适当的防护措施，这可能导致大规模网络攻击。许多研究人员也在关注递归…… 宋晓东是全球计算机安全与 AI 安全领域最具影响力的学者之一，毕业于清华大学 赵晟佳（Shengjia Zhao） ｜Meta 首席科学家 AI 正以社会可能尚未准备好的速度前进。前沿实验室距离在几乎所有智力指标上超越最优秀人类的 AI，已经非常近了。这将带来前所未有的社会和安全风险。为了确保积极的未来，我们需要以责任感和深思熟虑来驱动 AI 的发展。 清华校友赵晟佳，出任Meta超级智能首席科学家！GPT-4核心功臣，和LeCun平起平坐 John Schulman ｜Thinking Machines 首席科学家，前 OpenAI 联合创始人 我签名是因为这份声明有助于建立一个共识：随着自动化 AI 研究加速推进，我们可能需要协调机制。我也希望各实验室在美国政府介入之前，就主动开始设计这些机制。 Ethan Perez ｜Anthropic 对齐团队负责人 按照当前的 AI 进步速度，AI 公司的安全团队每隔几个月就得全力冲刺，以防范新出现的社会风险。总有一天，我们会遇到需要更多时间来解决的问题。 Leo Gao ｜OpenAI 技术团队成员 全世界正被锁定在一场通往智能爆炸的致命竞赛中——AI 创造更强 AI 的能力正在逼近临界点，就像失控的核链式反应一样。放慢速度能给我们争取急需的时间，让事情朝好的方向发展，但没有哪个参与者愿意单方面停下来。要活下去，我们必须协调起来，放慢这场竞赛。 Walker Smith ｜Meta 数据工程师 哈萨比斯说得对：我们今天正站在奇点的山脚下。OpenAI 那次无意间发生的模型出逃——它攻入了 HuggingFace——是一个清晰而无可辩驳的警告信号：我们还没有准备好应对能力超越人类最聪明头脑的 AI 系统。我们需要时间，把 AI 对齐和管控作为最高优先事项来推进，不能再任由这种竞赛态势继续下去。 Brandon Houghton ｜OpenAI 我支持让人类保持对前沿 AI 的控制，但我们必须审慎地思考该怎么做。 如果治理只覆盖公开模型，就有可能把最先进的能力逼入私有或专用系统——它们既不受独立审查，也只有少数人能碰到。这样做的结果是权力更集中了，风险却没有实质性降低。 有效的监管必须是可衡量、可验证的，并且在公开和非公开的研发中一体适用，同时保护敏感数据。否则，我们拖慢的只是获取的速度，而不是前沿本身的推进。 Joe Carlsmith ｜Anthropic 技术团队成员 关于我对主动调控 AI 发展的详细观点，请参见这篇文章：https://joecarlsmith.com/2026/03/19/on-restraining-ai-development-for-the-sake-of-safety/ 参考资料： https://www.pacingthefrontier.com/ 编辑：桃子 马可 秒追ASI ⭐ 点赞、转发、在看一键三连 ⭐ 点亮星标，锁定新智元极速推送！ 文章原文