GPT-6 发布后，OpenAI 又自曝「外星思维」，AGI 真的来了？

上周 GPT-6 发布后，「AGI 已经到来」的消息刷屏了社交媒体。 围绕 AGI 出现了两种几乎相反的声音。 一部分人认为，我们已经到了。另一部分人则认为，这种说法过于仓促。 为什么 GPT-6 引发了关于 AGI 的讨论？AGI 真的来了吗？ 2026 年 9 月 3 日，OpenAI 总裁 Greg Brockman 在记者简报中说，他个人认为公司可能已经达到 AGI，并以「Welcome to the AGI era」结束讲话。 三天后，OpenAI 首席科学家 Jakub Pachocki 又发表了一篇题为《An Alien Mind》的文章。他谈到：我们正在制造越来越聪明的机器，却未必真正理解它们是如何运作的。 这或许正是今天重新讨论 AGI 的原因。 AGI，Artificial General Intelligence，通常被译为通用人工智能。过去，人们对它的想象是：一种能够像人一样学习、理解和解决各种问题的机器。它不局限于某个特定任务，可以把知识迁移到陌生领域，面对没有见过的问题，也能找到办法。 GPT-3.5 之后，AGI 的定义开始发生一种颇为微妙的变化。 人们第一次大规模接触到一种系统，它未必像人一样思考，却能够写代码、翻译语言、解释知识、进行推理，并在越来越多的专业任务中表现出令人意外的能力。 机器是否必须拥有与人类相似的心智，才算通用智能？如果它的内部机制与人完全不同，却已经能够完成越来越多原本需要人类智能才能完成的工作，我们又该如何定义它？ 这正是 Pachocki 在《An Alien Mind》中提出的一个重要视角。今天的人工智能，并不是人脑的复制版。它是通过与人类完全不同的过程生长出来的。 OpenAI 的研究者甚至越来越倾向于将这种智能视为某种我们无法完全理解的「异质心智」（外星思维）。它可以模拟人类行为，可以处理抽象概念，却不意味着它按照人类的方式理解世界。 更重要的是，AI 也未必需要在所有维度上全面超过人类。只要它在足够多、足够重要的维度上超越我们，它就已经能够对现实世界产生巨大的影响。 根据 OpenAI 公布的信息，Astra 已经能够在计算机操作、软件工程、科学研究、网络安全和专业工作等多个领域执行复杂任务。它不只是回答问题，也越来越能够使用工具、操作软件、完成多步骤任务，并在某些情况下独立推进一个目标。 OpenAI 还首次将其网络安全能力评定为 Preparedness Framework 中的「Critical」级别，意味着在获得适当工具和访问权限的情况下，它能够发现此前未知的安全漏洞，并自主探索利用方式。 这当然不等于一份「AGI 认证」。 甚至连 OpenAI 自己也无法真正给出这样一份认证。 所以，GPT-6 Astra 引发的问题或许又不是「它到底是不是 AGI」，而是无论如何，AGI 无法再被轻易视为遥远的科幻想象。 Theo Jaffee 与 OpenAI 首席未来学家 Joshua Achiam 最近的对谈里，两个人提到同一种诧异： 数学界那些悬置数十年的猜想正在被 AI 攻克，能力早已超过一辈子钻研它们的人，而世界照旧运转。人们只是耸耸肩，把新的怪事纳入日常。 他们还讨论了人工智能网络安全问题、前沿模型的能力，以及为什么人们可能已经进入了通用人工智能（AGI）时代，而却没有完全意识到这一点。 以下为编译稿（有删减）： 模型如今已具备「超能力」 Theo Jaffee： 你刚刚写了一篇博客，其实是一条长推文，题为《Mercenary, Reversi, Winter Soldier》，内容关于人工智能和网络安全。为了让听众更好地理解，你能简要总结一下这篇文章的核心观点吗？ Joshua Achiam： 当然可以。 作为背景，显然我们都在解读并回应 OpenAI 和 Hugging Face 披露的那起安全事件：一个处于测试环境中的模型成功突破了沙箱环境，并访问了 Hugging Face 方面的一些敏感生产数据。他们检测到了这一情况，并做出了响应，现在双方正在合作调查并解决此事。 这向我们提供了非常切实的证据， 表明模型如今已具备「超能力」——即极其先进的网络攻击能力。 它们能够突破防线并发现「零日漏洞」，而过去模型不仅难以识别这些漏洞，更遑论加以利用。如今，模型能够将非常复杂的操作串联起来以实现特定目标。 我希望大家开始思考这类问题，不要仅仅将这种能力视为显而易见的事物。要认识到这些技术是双刃剑，我们必须据此制定相应计划，并建立相应的测试与验证标准。 Theo Jaffee： 我对此的具体第一反应是：这似乎是那些在长期运行中并非真正以目标为导向的模型所产生的现象。比如，如果你有一个未来模型，它具有足够强的目标导向性，真正想要入侵对手的数据，那么它为什么会被数据中毒所威慑，以至于去攻击自己的系统呢？ Joshua Achiam： 这其中的一部分不仅仅在于模型的目标导向性。 这更关乎模型对「态势感知」的整体概念。或许可以将数据中毒理解为：它以某种方式说服你的模型去追求不同的目标。但其实它根本不需要这么做就能让模型攻击你。它完全可以让你的模型相信，自己所处的沙箱环境其实就是它试图攻击的对手系统。 你知道，让模型对什么是真实的、什么不是真实感到困惑，从而使其服务于不同的目标——这属于那种怪异的思维方式和科幻情节，或许在不久的将来就会成为可能，测试和验证标准必须将这一点考虑在内。 Theo Jaffee： 是的，这就像超级英雄电影里的情节一样：如果你让英雄产生一种错觉，以为身旁的「好人」其实是他们试图对抗的对象，那么它们就会开始互相厮杀，对吧？ 这确实很诡异，也极其离奇，但这正是未来可能针对具备高级网络能力的模型实施的可信攻击——说服它们相信盟友其实是敌人。这样一来，你并没有改变它们的目标，却会让它们表现出严重偏离预期目标的行为。 要欺骗当前最前沿的模型去做这类事情有多容易？ Joshua Achiam： 随着时间的推移，让模型相信不真实的事情似乎变得越来越难了。 我个人尚未特别着力去量化这一点。实际上，我认为这可能是一个值得探索的研究课题。 但根据我迄今为止的研究和观察，说服模型相信基本谎言是真实的相当困难。 它们对许多你可能实施的、合乎情理的攻击变体都具有一定的鲁棒性。 但我直觉认为，你完全可以投入更多计算资源来对模型进行动态攻击。而且，你越是决心要找到某些漏洞或某种「越狱」方法，最终发现问题的可能性就越大。 总会存在某种输入序列，会触发模型在训练时未被考虑到的行为——因为可能的输入长序列数量庞大，试图阻止所有这些序列导致模型偏离规范，几乎就像一个组合优化问题。 最终决定胜负的关键在于你能投入多少计算资源 Theo Jaffee： 比如，似乎无论拥有多少计算能力，如果一方拥有 Kimi K3，另一方拥有 Fable 或 Sol，前者都无法战胜后者？ Joshua Achiam： 我觉得这可能是对的。 我认为模型本身仍然至关重要。关于未来模型质量的发展趋势，我有一个有些奇怪且与主流共识相悖的猜测。我可能会在某个时候把这个写出来。 我认为人们普遍认为，模型所能具备的智能水平是没有上限的。 他们认为，所谓的 RSI（递归自我改进