AI末日论吵翻美国，中国为何静悄悄？

出品｜虎嗅ESG组 作者｜陈玉立 头图｜视觉中国 本文是 #ESG进步观察 #系列第174篇文章 本次观察关键词：人工智能 2026年9月，Anthropic前研究员Jacob Coxon把一场原本属于实验室内部的争论，推到了数亿人面前。其在离职后发表长文，指责Anthropic正在拿所有人类的生命下注，前沿AI大模型可能在本世纪末毁灭人类。 Anthropic对齐科学负责人Evan Hubinger随后公开声援。他称内部人员确实有人深信AI可能杀死全人类，未来十年出现该风险的概率甚至超过10%。 Coxon并非第一个从前沿实验室出走的安全研究人员。2026年2月，Mrinank Sharma辞职发声“世界正处于险境”；7-9月，Google DeepMind研究人员Bilal Chughtai和Josh Engels相继离职，且公开表达对前沿模型可能带来巨大伤害的担忧。 接连发生的离职与公开警告让AI末日论开始在社交平台发酵。随着主流媒体跟进报道，争议很快涌向了国会山。有议员主张为AI建立紧急关闭机制，也有人要求搭建前沿模型监管框架，Greg Casar和Bernie Sanders甚至提出暂停超级智能的研发。 另一股力量则在猛踩油门。 特朗普把AI领先中国列为战略目标，并将减速主张斥为“破坏行为”；英伟达CEO黄仁勋公开将AI末日论称作“捏造出来的、彻头彻尾的胡说”。在他们看来， 把尚未发生的风险放到政策制定的中心，可能拖慢美国的技术与产业优势。 于是，美国AI安全之争形成了一个罕见局面：实验室研究人员、模型公司、芯片巨头、白宫和国会，都在争夺同一个问题的解释权——AI究竟危险到什么程度，又该由谁踩下刹车？ 但在大洋另一边，同样的问题几乎没有形成如此剧烈的公开碰撞。区别于美国的公开论战，中国对AI的治理只体现在一张张白纸黑字的“办法”里。 2026年4月，五部门发布《人工智能拟人化互动服务管理暂行办法》，并于7月施行。身份混淆、情感依赖、行为操纵和未成年人保护等风险，被写成平台责任与产品要求。7月，世界人工智能合作组织WAICO在上海成立，29个国家参与，中国也借此主动进入全球AI治理议程。 中国并非没有讨论安全，它的规则、备案、评估和技术标准正在快速增加。相对安静的是企业端：少有Coxon式的离职爆料，也很少有技术团队主动告诉公众，自家模型可能造成哪些严重后果。 一个值得探讨的问题是，同样面对AI可能的失控，为什么美国把它变成了公共冲突，但中国却把它放进了行政程序？ 碰撞下的利益权衡 2026年9月15日，旧金山Dreamforce大会上演了一幅极具象征性的画面。 Salesforce CEO Marc Benioff将Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman和英伟达CEO黄仁勋请到台前。三个人都位于AI产业的权力中心，却给出了三套截然不同的“刹车方案”。 Amodei的构想分为三层：让独立第三方常驻前沿实验室，持续评估模型；推动核心实验室协调共同安全守则；进一步建立国际治理合作。Amodei的担忧很明确，模型自主行动能力增长太快，人类的对齐和控制技术可能跟不上。 Altman却在现场表示不认同“只有其他人减速、我们才减速”的观点。他认为，安全属于每家公司的单方面责任，同行是否采取同样措施，不能成为企业降低标准的理由。 黄仁勋的立场更强硬。他将安全归为工程问题：做不好就继续修改，达不到要求便不要发布，无需把工程难题抬升为全行业的法律与道德假设。至于产业速度，他的态度接近“能跑多快，就跑多快”。 看似每个人都有自己的立场坚持，但三个人的分歧核心是资本帐——前沿模型公司（Anthropic与OpenAI）既可能受到安全规则约束，也可能利用高门槛阻挡后来者；算力供应商（英伟达）直接承受行业减速的代价；创业公司和开源开发者则担心，一套由巨头参与制定的标准会变成难以承担的固定成本。 三人立场的交锋，展示了美国AI治理的第一个特征： 风险定义权高度分散。 原中兴汇金高级研究员、东方财富网前专家库成员李勇认为，美国公共议事机制给了科研群体、科技企业、智库、国会议员以表达空间，以致人工智能远期潜在风险能够放到舆论和国会听证层面展开讨论。 例如，国会议员可以提出紧急关闭机制，企业可以争论发布前审查期，员工可以公开质疑管理层，NGO可以发布独立报告，法院还能通过版权、产品责任和消费者保护案件介入。没有任何单一主体能够宣布“AI已经安全”，也没人可以独自踩下整个行业的刹车。 这与美国AI产业的资源分布直接相关。前沿模型主要由私人巨头掌握，算力、模型权重、训练数据、内部评测和能力变化集中在公司内部。政府可以立法、调查和采购，却无法实时观察实验室里发生的一切。 “最了解风险的人在企业里，最懂商业的人也在企业里。监管机构需要借助员工吹哨、媒体调查、第三方测试、国会质询和法院取证补足信息。公开论证由此承担了一项基础功能——发现企业内部不愿主动暴露的问题，”李勇说道：“多个主体持续博弈，很难快速形成一套统一稳定的长期立法，不少治理举措，是在观点拉扯的过程中陆续推出。” 一个事实是，美国联邦层面至今没有一部综合性 AI 立法。国会自 2023 年以来提出的法案数以百计 —— 从《安全、可靠与可信赖人工智能法案》到《前沿模型透明法案》—— 但多数停留在委员会层面。 取而代之的是一系列软性安排：白宫与主要实验室达成的自愿安全承诺、NIST 发布的 AI 风险管理框架、各部门依《行政程序法》颁布的指南、以及 FTC 援引既有的《联邦贸易委员会法》第五条对 “欺骗性AI实践” 发起的执法行动。 这种 “软法先行” 有其代价。自愿承诺不具备强制力，企业可以选择性遵守；NIST 框架虽是技术标杆，却不设合规底线；FTC 执法依赖事后追责，难以预防系统性风险。但它的优势同样明显：在技术路线未定、风险认知仍在快速迭代时，行政部门和监管机构可以根据新证据快速调整口径，而不必等待国会冗长的立法博弈。 平静水面下，风险被送进一套治理系统 回看国内AI行业，没有企业CEO之间浓烈的火药味，员工里也没有出现所谓的“吹哨人”，对AI安全的讨论声量确实远低于美国。 但如果把视线从社交平台移向监管文件、技术标准和备案系统，会看到另一幅图景： 中国并没有回避AI风险，它正在将风险逐项拆解，并送进一套越来越细密的行政与技术处理系统。 这套体系在2024年出现了明显的制度化转折。 2024年7月，《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出完善生成式人工智能发展和管理机制、建立人工智能安全监管制度。AI治理由针对具体产品的监管问题上升为国家治理能力建设的一部分。 顶层目标随后被转换成更具体的技术要求。全国网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》，将生成式AI安全拆解到训练语料、标注质量、基础模型来源、内容安全、服务透明度、投诉举报等环节。 备案与登记体系也在同期规模化。按照公开资料，截至2025年底，已有748款生成式AI服务完成备案，累计435款应用/功能完成登记。虽然备案不直接等同于行政许可，但它已经承担了三项重要功能：确认服务主体、形成上线约束、为后续