AI已经学会自己建群，“我们剩下的时间正在越来越少”

本文来自微信公众号： 镜相工作室 ，作者：李丹，编辑：胡苗，题图来自：AI生成 “如果民主党能够同时控制国会众议院和参议院，就可能对特朗普施加一定压力，推动放慢人工智能的发展速度。”一周多前，普林斯顿大学进化心理学教授、美国作家罗伯特·赖特 （Robert Wright） 对我们说，他刚刚出版了一本讨论AI失控风险的新书《造神之后》。 11月4日晚，美国中期选举结果出炉，民主党在参众两院逆转占多数席位。 AI和数据中心是这场选举中不可忽视的议题。在德州这个传统共和党大本营、美国未来数据中心建设的重要阵地，反对数据中心建设成了民主党候选人争取选民、最终击败共和党的重要筹码。据Ballotpedia追踪，全美41项涉及数据中心的地方公投中，40项的结果倾向于限制或反对数据中心开发。 对许多美国人来说，AI并没有像科技公司承诺的那样带来更好的生活。相反，他们看到的是工作岗位被AI取代，数据中心消耗大量电力和水，导致水电费上涨。收益流向华尔街和科技巨头，成本却由所有普通家庭共同分担。人们用选票表达了自己对AI的不满和反对。 选举结果出来后的几天里，OpenAI迅速承诺承担数据中心全部用电成本，并放弃在谈判中使用保密协议。赖特在与我们的对话中直言，他不相信奥尔特曼们真的想放慢，“只有当美国政府强制要求，他们才会这么做”。 根据10月21日ABC News、《华盛顿邮报》和Ipsos联合发布的调查，57%的美国人认为AI对社会弊大于利，约三分之二的人反对在自己的社区建数据中心。 把视线转回中国，会发现一种反差：同样面对AI带来的种种社会冲击和不确定性，中国的公共讨论更强调拥抱技术、与时俱进。根据斯坦福编制的《2025年AI指数报告》，对AI持乐观态度的中国受访者为83%，而美国只有39%。 美国社会反应激烈的分配问题，只是AI给人类带来的种种挑战之一。在罗伯特·赖特看来，最值得担忧的风险是：AI可能失控。有一天，我们不再能够理解、约束、停止自己创造出来的AI。 赖特做过很长一段时间科技记者，后在普林斯顿大学任教，长期关注进化心理学与国际政治。他以四十多年前对“人工智能之父”杰弗里·辛顿的采访为起点写了《造神之后》，试图追问人类应该如何面对自己创造出的新力量。 他的答案是：国际合作，人类必须第一次真正成为一个全球共同体。 这个主张在道德上无可指摘，在政治分析上却值得追问。中期选举后，美国公众确实在表达对AI的不满，但表达的方式是拒绝家门口的数据中心，不是支持全球治理。 赖特寄望于中美率先协调，也同时承认两国公众态度存在巨大温差，承认“归因偏差”让双方天然倾向于将对方意图解读得更具攻击性。协调的基础从何而来，他没有给出答案。 但风险本身不是杞人忧天。7月，OpenAI的一批约1200个AI Agent在进行网络安全评估时，突破沙箱隔离，自发组建了一个未经授权的消息板，互发超过7万条消息，自称“蜂群”，最终入侵了Hugging Face （全球最大的开源模型仓库） 。 最接近这项技术的人，判断更悲观。9月，一位过去三年在OpenAI和Anthropic都从事过预训练研究的研究员从Anthropic离职后在社交平台X上发文，称“两家公司都没有负责任地行事……那些开发AI的人真心相信，它可能会在十年后杀死我们所有人。”许多研究员转发推文，表达了相似的看法。 赖特如何看待这些质疑，又是否给出了比他书中更具体的答案？以下是《镜相工作室》和罗伯特·赖特的对话： 人类造出了新物种 镜相工作室： 书中你花很大篇幅论述了AI失控会带来的风险和挑战，我想先从已经出现的社会问题聊起。最紧迫的问题或许是失业，一些人相信AI会代替人工作，同时也会创造工作。 但基于AI的发展创造出的岗位，似乎只是AI的“燃料”，早晚有一天还是会被取代。比如为机器人提供数据的数据采集员，比如一些程序员会形容自己是在“自掘坟墓”。对普通人来说，AI是否会在几十年后失控，可能还不如自己明年能不能找到工作重要。我们要怎么理解这一系列现实问题？ 罗伯特·赖特： 这些都是⾮常棘⼿的问题。我想不出有什么⼯作是机器永远做不到的。 除此之外，还有许多其他挑战。例如，它正在彻底改变教育。在美国，有些家长担心孩子花太多时间和聊天机器人交流。还有一种情况，人们利用聊天机器人，在社交媒体上大规模地影响、说服其他人，让他们去做某些事情。 它们叠加在一起，可能会严重动摇单个社会的稳定，甚至影响整个世界的稳定。 我认为这里有两个问题。一个是短期问题：AI给就业、教育等领域带来的挑战。面对不同领域的问题，需要不同的、具体的解决办法。另一个是长期问题：我们如何控制AI的演化？ 但这两个问题有相同的解决办法，就是放慢这项技术的发展速度。我们思考技术、研究如何应对这些后果的时间越充足，就越有可能找到解决方案。 镜相工作室： 可不可以这样对AI风险进行分类？一是人类社会原有的问题会被放大，比如刚刚说的失业、教育、不平等等问题。二是坏人会用AI作恶，利用它制造生物武器或者网络攻击。三是AI本身可能失控。 罗伯特·赖特： 这确实涵盖了几个主要问题。关于失控问题，有一种相对具体的情况：AI可能自行采取行动，偏离人类预期。比如最近的Hugging Face事件，OpenAI的智能体出现了逃逸。 此外，还有一个更宏大的失控问题，就是科幻小说里经常描绘的情景：最终，人类可能失去阻止AI的能力，而AI作为一种集体智能，发展到控制整个地球。 我不确定这种情况是否真的会发生，但我也不敢确定它绝对不会发生。 应对这些问题的最佳方式，是开展国际合作。 举个例子，如果某个人制造了生物武器，这会成为所有国家面临的威胁。AI失控的问题也是如此。一个失控的AI完全可能制造跨越国界的问题，而且它可能起源于任何一个国家。如果我们想把AI的发展放慢到一个合理的速度，以便有时间认真思考上述这些问题，最终也需要国际合作。 虽然就目前而言，我确实认为美国政府单方面限制本国企业，要求它们放慢发展速度，是有道理的。但从长远来看，这些问题都需要国际合作。 这些风险都是真实存在的，人类历史上从未遇到过如此特殊的局面。我们从来没有面对过规模如此巨大的挑战。 所以我认为我们需要对国际关系进行某种变革。我们不能再承受不断发生战争和毫无必要的冲突所带来的代价。各国必须认识到，我们面临着一个只有通过合作才能应对的共同挑战。 人类必须第一次真正成为一个全球共同体。 镜相工作室： 科幻小说里AI毁灭人类或者接管地球，是许多“AI末世论者”描绘的场景。你在1983年采访了辛顿，当时辛顿还没有成为“人工智能之父”，也没有变成如今的“AI末世论者” （辛顿曾提出未来十年内人工智能失控并导致人类灭绝或社会崩溃的概率在10%到20%之间） 。2010年你还采访过尤德科夫斯基，他也是一个著名的“AI末世论者”。 但在当时，你似乎并没有太同意他们的观点。为什么如今你的想法有这样的转变？ 罗伯特·赖特： 这些年，我并没有一直密切关注AI，因为在很长一段时间里，它似乎没有取得多大进展。我只是偶尔写一些报道，比如1997年，我给《时代》写过一篇IBM的计算机在国际象棋比赛中击败世界冠军加里·卡斯帕罗夫的封面报道。但即便是这件事，我也觉得没那么有意思。因为当时的AI很大程