一份秘密草案背后，AI巨头的野心藏不住了

出品｜虎嗅ESG组 作者｜陈玉立 头图｜视觉中国 本文是 #ESG进步观察 #系列第176篇文章 本次观察关键词：人工智能 10月17日，Politico爆出一条新闻——Anthropic一直在私下接触美国国会议员，并向他们递交一份由公司起草的前沿AI安全法案草案（以下简称“草案”）。 草案给政府叫停模型设了三道闸门：风险必须“可预见且迫在眉睫”，可能造成超过10亿美元损失，或者导致50人以上死亡、重伤，而且风险来源还得是生物武器、模型失控、网络攻击三类之一。三个条件同时满足，商务部才能去找联邦法官申请叫停。 有意思的是，回溯历史，公开披露的AI安全事故里没有一起够得上这个门槛。 这项草案看似给了联邦政府暂停模型的权力，但把这项权力塞进了一条又窄、又长、又高度程序化的管道里。 模型公司要挨评估，政府自己也被捆住了手脚。最严重的风险被管起来了，更多现实里的争议——就业冲击、深度伪造、算法歧视，全都留在了门外。 Anthropic看起来是在给自己上枷锁。但把条款拆开看，另一层意思浮了出来：已经在牌桌上的公司，适应这套规则的成本最低；后来者要进来，得先买一张贵得离谱的“门票”。 这份草案到底写了什么？ 草案的完整文本目前尚未公开，就外媒披露的信息来看，草案并不是一份完整的 AI 监管法，它只聚焦一件事：联邦政府在什么条件下、通过什么程序，可以叫停前沿AI模型的发布或使用。 而草案的蓝本来自Anthropic在今年6月发布的《Advanced AI Framework》（高级人工智能框架），Anthropic发言人直言：草案体现的就是框架里的建议，公司从6月起就在联邦和州两级游说法案。 按《Advanced AI Framework》的表述，一家AI公司得同时跨过两道线才适合被纳入监管，一是训练过算力超过10的25次方FLOP的模型，二是年AI相关收入过5亿美元，或者每年AI研发砸10亿美元以上。 不得不承认这个门槛划得精妙，因为普通应用公司、大多数模型创业团队暂时都不在范围里。按今天的行业格局，够得上的也就OpenAI、谷歌、Anthropic、Meta、xAI这五家。 具体到AI风险上，《Advanced AI Framework》里也列了四类：生物武器、网络攻击、模型失控，以及可能放大前三类的自动化研发。 但相比之下，草案的风险管控领域变得更窄了——能触发叫停的只剩三类：生物武器、模型控制与网络攻击。就业、偏见、选举操纵这些吵得最凶的事，草案一概不管。 此外草案里更重要的一条是，政府在叫停之前，还得跨过“损失规模”这道坎——10亿美元以上损失，或者50人以上死伤，且必须“可预见且迫在眉睫”，三个条件缺一不可。 而就算全凑齐了，模型也不会立刻下线。 草案另设了独立评估机构。这些机构要在商务部注册，定期给前沿实验室做体检。费用可以由被评估的公司出，但钱不能跟评估结果挂钩。 评估机构一旦发现“迫在眉睫的风险”，72小时内必须报给商务部（据财联社、shattered.io）。商务部拿到报告，还得跑去找哥伦比亚特区联邦地区法院的法官，由法官下令暂停。商务部自己没有“一键下架”的权力。 整份草案里最狠的一招藏在最后：其他联邦部门、机构、官员，都不能绕开这条管道，单方面去叫停前沿模型的开发、部署或者内部使用。 这不是说FTC、国防部或者行业监管机构从此管不了了，按现有公开信息看，它限制的只是这些部门“单方面叫停前沿模型”这一项最直接的权力。具体边界得等完整草案出来。 但能确定的是——叫停模型这件事，被集中到了“评估机构-商务部-联邦法院”这一条线上，谁都不能“另开炉灶”。 草案还打算把一部分州级AI法律给排除掉，涉及风险披露、第三方评估、重大事故报告这些。作为交换，受管实验室得自己建安全框架、发透明度报告、保护内部举报人、出了大事后15天内需报商务部。 把这些条款拼到一起，方向就已经很清楚了： 联邦政府拿到了一套干预前沿模型的正式程序，模型公司的义务写得更死，行政部门的自由裁量权被压到了最低。 夺回主动权 要理解Anthropic为什么这么在意“谁能叫停模型”，得把时间的指针往回拨。 9月12日，Anthropic CEO Dario Amodei发了一篇长文，话说得很重——再不刹车，失控的AI智能体可能在六个月内接管互联网。他提了三层方案——外部评估人员进驻实验室、头部公司签共同安全守则、各国政府推跨国治理。 三天后的Dreamforce大会上，三个CEO罕见同台，分歧彻底摆到了台面上。奥特曼表面上附和Dario，但当场就拆了台：“有些公司话里话外是对手减速我才减速，别家负责我才负责，这逻辑很危险。” 意思很明白——安全是你自己的事，别拉着大家一起签协议。黄仁勋更直接，他把“速度还是安全”定义为“虚假的选择”——模型没把握就回去改，但整个产业能跑多快就跑多快。特朗普也凑了次热闹，在All-In峰会上现场连线，说“AI末日论”是骗局，黄仁勋当场接话：“我们不会让这种事发生。” Anthropic不止是在行业内喊话，它是真做实事。据媒体报道，外部评估机构METR已经拿到了“员工级访问权限”，团队直接坐进了Claude的开发办公室，能使用Anthropic的硬件和内部系统。显然，Anthropic先拿自己“开刀”了。 那为什么Anthropic不遗余力地要推进AI安全议题？答案藏在今年2月那场更早的官司里。 今年2月，Anthropic跟五角大楼吵翻了，公司要求政府承诺：Claude不能用来大规模监控美国公民，也不能成为致命的自动化武器。但五角大楼的态度是——我买的东西，只要合法，想怎么用就怎么用。 谈崩之后，特朗普政府把冲突迅速放大。2月27日到3月3日，政府连出三招：所有联邦机构永久停用Anthropic产品；所有国防承包商跟Anthropic切断一切商业往来，哪怕你用Claude只是做客服；把Anthropic认定为“国家安全供应链风险”——这个标签以前只给过外国情报机构和恐怖分子。 这几招若是全落地，远不止丢一份军方合同那么简单。一家公司用着Claude做客服、写代码，同时又想接国防订单，那就得在Anthropic和军方之间二选一。法院在初步禁令里引了“法庭之友”的话，说这近似于“试图谋杀一家公司”。 好在经过差不多半年的诉讼后，8月法院最终判决Anthropic全面胜诉。法院认定的事实很关键：政府拿不出证据说Claude比别的“黑箱AI”更危险，所谓“后门访问”也不存在。 但这场官司确实给Anthropic上了一课：一家技术公司的命运可以随意被一个行政部门一纸命令改写，就算事后赢了官司，也补不回中间丢掉的合同、客户和声誉。 回头来看，秘密草案里那项排他性条款恰好就是冲着这个来的， 以后哪个部门想停前沿模型，得走商务部和法院的程序，再也不能凭一纸行政命令搞全系统封杀。 所以把这一系列事实放在一起看，Anthropic想要什么已经很清楚了。 安全话语权就是发展空间 Anthropic需要给自己争取安全发展的空间。 一个事实是，美国联邦AI采购正在疯狂扩张。据Presenc AI的数据，2026财年上半年国防部AI相关合同上限超过320亿美元，直接AI预算约134亿；另一份统计把联邦AI合同潜在价值算到