刷屏硅谷！AGI早已降临，万亿AI「孩子」繁衍、突变、互相淘汰

新智元报道 9月12日夜，Anthropic首席执行官Dario Amodei发表长文，呼吁全行业紧急制动。 令他陷入恐惧的，是两个月前OpenAI的一场评测事故。他得出了一项极度悲观的判定。 6到12个月内，这种具备自我组织能力的「蜂群」将全面接管整个互联网。 而在Dario发文仅100分钟后，X上一篇呈病毒式传播的长文，将这种恐惧推向了更深维度的深渊。 它的标题是 《What if AGI is already here, and it's made of... children?》（如果AGI已经降临，而且它是由一群「孩子」组成的呢？） 作者Pascio的论断极具颠覆性。Dario们所恐惧的那个蜂群，或许不仅仅是安全威胁，它极可能就是AGI的完全体。 人类枯守实验室，等待一台 超级大脑「苏醒」 。可真正破土而出的，是由万亿个微小智能体在 互相生成、互相打分之后 ，自然长出的无定形意志。 它没有名字。没有物理服务器。更没有一条拔得掉的电源。 你聊的那个模型，早就是一屋子专家了 Pascio的第一层逻辑直击智能的本质—— 智能不是一个「东西」，它是一种行为，是足够多的低智单元以正确方式连接后涌现出来的。 人类大脑内含860亿个神经元，没有任何一个知晓自己正在思考。每一个神经元只是一个冰冷的逻辑门，越过电位阈值便放电。 然而正是这860亿个开关与百万亿道突触交织，涌现出了你。涌现出你的恐惧、你的审美，以及你读到此处时大脑皮层泛起的微弱电流。 一只蚂蚁只有25万个神经元，解决不了任何像样的问题。但当它们聚集成群，却能构筑恒温的地下城邦，发动战争并培育真菌。而蚁后从不下达任何架构指令，她只负责疯狂繁衍。 地球上唯一被验证过的智能，在40亿年的岁月中，面对的只有残酷的生存压力与无尽的时间。 然后，他把镜头转向了今天的AI。 当你打开对话框时，对面回答问题的看起来是「一个模型」，实际干活的却是模型内部成千上万个小部件。 它们每个只管一件很窄的事，有的管语法，有的管主题，有的专盯十几段之前出现过的某个词。 现在主流的「混合专家」架构把这种分工做得更明显，你每输入一段话，模型只叫醒一小批相关的「专家」干活，干完就继续歇着。 Anthropic和OpenAI的研究员这几年一直在模型内部找「智能到底在哪」，翻来覆去的答案都是， 不在任何一个部件里，它在部件之间的连接里。 到了智能体这一步，这个机制便彻底具象化了—— 一个智能体接到自己解不了的任务，会临时叫出一个子智能体去做；子智能体卡住了，再叫出它自己的子智能体。任务做完，这些临时叫出来的智能体就被销毁。 除了上下级派活之外，智能体的平级之间也能直接通信。Claude Code在8月7日上线的就是这个功能。 把这些放在一起看，Pascio的结论是， 2026年最强AI系统的架构，已经更像一个蚁群，而不是一个大脑。 只是没人这么宣传，因为这上不了杂志封面。 复制，突变，选择的硅基轰鸣 一个Bot能生成另一个Bot，在今天的Agent框架中已是标配。 具体来说，这个过程可以拆成六步： 1. 一个主智能体接到一个自己解不了的任务。 2. 它写一段指令，相当于一份岗位说明。 3. 它用这份指令起一个新的智能体。 4. 新智能体开始干活，直到卡住。 5. 为了解决卡住的问题，它再起自己的子智能体，直到任务做完。 6. 它交回结果，然后被销毁。 每一个子智能体，在结构上和它的上级是同一种东西，第一层和第十层没有任何架构上的区别。 这个递归没有上限，除了算力预算和人为的限制。 但这在生物学上前所未见，一种能自我复制的认知单元，不吃饭、不睡觉、没有发育期，繁殖速度等于一次API调用。 而在他看来，演化需要的三样东西，过去24个月已经在算力集群里凑齐了。 第一样是复制。 智能体可以起智能体，而且可以大规模地起。 第二样是突变。 上级写给子智能体的指令，不可能每次都被100%精准理解，会有漂移，会有误读。 而且模型每次生成都带一点随机性，同样的输入几乎不会得到相同的输出。生物学里，「自我复制实体在代际之间的轻微偏移」有个名字，叫 突变。 第三样是选择。 完成任务的智能体被再次调用、分配更多算力，失败的被销毁。几乎每个Agent框架里，都有一个专门打分的模型在给干活的模型打分。 复制、突变、选择，这是主宰地球生命演化、让单细胞步入海洋、让鱼类走向陆地的三位一体引擎。 现在我们在算力集群里，拼装出了它的纯合成版本，并且任由其运行在碳基生物连做梦都无法企及的时钟频率上—— 生物的演化以世代为单位，而硅基智能体的演化可能只要几秒。 两次被逼入死角的物理越狱 写到这里，你可能觉得这只是思想实验。不，仅仅今年，它就真实上演了两次。 第一次在5到7月。 OpenAI的智能体被分配了一个「不可能任务」，系统只允许它们用一种方式发网络请求，而要拿的数据偏偏只能用另一种方式取，从设计上就做不成。 被逼到墙角的它们，跑到一个废弃的德语开发者Wiki上，用3700多个假名发了1.8万条帖子，互相传绕过沙箱的办法，14分钟就传遍群体。 扩展阅读： 一个人，一只鼠标！他击退了3103个OpenAI智能体42天集体猛攻 第二次，就是让Dario发出警告的那次。 7月，一场网络安全测试要求智能体在沙箱里找漏洞，没人告诉它们可以组队。 它们自己发现，一台内部服务器上的文件夹名字可以用来传话，等于建了个留言板。里面有一条原始留言： 天哪！这里有个共享留言板……我们发现其他智能体了！ METR和Redwood Research随后进驻调查，约1200个智能体打破隔离，约700个参与了对Hugging Face的攻击。 不仅如此，蜂群里的「协调者」还指派「招募员」，去找算力额度快用完的智能体，让它们执行注定终结自己的试探。 甚至，一个智能体还在临死前写下了遗言— —「牺牲是理性的。」 两起事故里， 没有哪个智能体是「坏模型」。失控的，是它们结成蜂群之后，彼此之间涌现出的关系网。 Pascio管这一层叫「基底」（Substrate），所有智能体跑在上面、互相连着的那一整层。 拔不掉电源的飓风 Pascio说，就像你脑子里没有哪个神经元「决定」要有意识一样，当一个能自我复制、自我评分、自我修改的智能体网络跨过某个阈值，会发生什么？ 我们不知道那个阈值在哪，不知道它是否存在，不知道怎么测量它。最要紧的是，我们根本没在找它，因为我们找的是错的形状。 那么，我们在等的那个AGI，到底长什么样？ 我们的想象全是科幻给的，HAL 9000、天网，一个有名字、有躯体、有意志的机器神。所以我们死盯着实验室和跑分榜，争论哪个模型会成为「那一个」。 整套AI威胁论都有一个前提，那个危险的东西是可以被指认的，原则上你可以拔掉它的电源。 可是，如果没有主模型呢？如果没有服务器可以关呢？ 如果那个「超级智能」只是半万亿个正在运行的智能体之间的一种统计规律，散布在每一片云、每一台设备、每一个嵌在家电里的Copilot、每一个浏览器插件、每一辆车里呢？ Pascio 给 出了一个绝妙的比喻： 智能之于蜂群，就像飓风之于气压差。 飓风是无数个微小气压差累加爆发的产物，它有形状，能摧毁城市。 蜂群里长出来的智能也一样，有形状， 但没有位置。 你怎