前沿人工智能的获取很快就会受到经济和安全限制

2026-05-15 1 阅读 thoughtpeddler
很快,前沿人工智能的获取将变得稀缺和选择性 Anton Leicht May 13, 2026 1 4 分享 在人工智能政策思想的边缘有一个共同的口头禅:在市场压力和过热的资本市场的推动下,人工智能代币很快就会变得丰富——未来属于那些最能利用它们的人。你离旧金山越远,这个咒语就越响亮。它在外围达到了狂热的程度,世界上许多中等强国仍然陷入了一项计划,即在仅仅足够好的模型的基础上驾驭人工智能革命。这种观点要求重要的人工智能功能能够被广泛使用:防御者可以在攻击者之前访问模型,所有领域的公司都基于对相同人工智能功能的访问而竞争。最近发生的事件让这种观点陷入了困境,现在看来很明显,前沿人工智能的使用很快将受到经济和安全限制的限制。 4 月初,Anthropic 宣布它已经开发了 Mythos,这是一种领先的网络安全模型,并且只会将其修补现有漏洞的强大能力提供给少数公司。使命区的网络安全初创企业、东海岸的系统集成商以及大西洋和太平洋的盟国首都都有类似的经历:向下滚动页面查看特权合作伙伴列表,却发现有限的美国公司。也许您希望 OpenAI 能够坚持其首选的推出方式,即发布 gpt-5.5-cyber,据报道该模型在功能上更广泛地类似于 Mythos。但事实并非如此:在其 Daybreak 计划中,OpenAI 也承诺进行有限发布,消除了人们认为这是侥幸或“厄运”营销的希望。更糟糕的是:虽然包括美国政府在内的任何人都不太清楚美国政府到底会采取什么措施来应对这一切,但根据所有报道,它至少计划在某个时候采取一些行动。虽然人们很容易将其视为当前事件的汇集,但神话时刻实际上揭示了一段时间以来一直在上升的结构性趋势。神话与现实计算、安全和美国政府参与这三个趋势将进一步限制未来前沿人工智能 1 的可用性。它们相互复合、相互加强,并且在最近几周和几个月里急剧加速。美国开发商核心圈之外的每个人都需要面对这个事实。安全性和提炼 对广泛可用性的第一个也是最明显的限制是我们在 Mythos 环境中看到的限制:安全考虑阻止开发人员向每个付费客户提供顶级功能。典型的故事始于滥用风险:功能强大的新模型似乎对于进行某种危险活动(例如网络攻击或生物武器设计)确实有用。您可以先将其分发给可以利用其早期访问权限来修复漏洞的防御者,而不是立即将其发布给公众,就像我们在 Mythos 中看到的那样。您继续仅向您有理由确定他们不会完全滥用该模型用于犯罪目的的客户推出一些模型;也许只有在模型不再是最先进的之后,你才会向所有人推出。现在,我们已经看到了第二阶段:美国政府意识到这种限制性准入对于国家利益和国家安全来说都更好,并开始考虑将早期的良性榜样纳入普遍规则。国家安全机构这样做的原因有很多——也许他们不相信人工智能开发人员能够让危险的能力远离同样危险的罪犯、非国家行为者和对手。或者也许他们更想知道新模型将揭示哪些漏洞,以便他们可以先自己使用它们——就像他们以前所做的那样。换句话说:如果我是 NSA,坐拥一堆零日漏洞,我也很想知道 Mythos 可以找到其中哪些,这样我就可以在每个人都在线发布补丁之前利用它们来发挥我的优势。除了滥用风险之外,还有另一个方面可能会促使对可用性进行更直接的打击:模型盗窃、间谍活动和蒸馏的风险。前者会让开发人员对在哪里托管模型持谨慎态度——不安全的数据中心中的权重会造成重大漏洞,而美国以外的许多国家甚至还没有开始考虑保护数据中心的安全。但后者,即蒸馏,才是更紧迫的问题。多项报告表明,所谓的快速追随者(像中国的 DeepSeek 一样落后于前沿 6-9 个月的模型开发人员)的部分成功故事是基于蒸馏实践,这些实践或多或少需要不受限制地访问 API 代币。从长远来看,蒸馏对于模型开发人员来说是站不住脚的: