OpenAI的下一个大AI模型已经“进入AGI时代”

OpenAI 的下一个大型模型就在这里：GPT-6 Astra。该公司称其为网络安全、专业工作、软件工程、科学和计算机使用等领域的“能力的代际飞跃”。正如 OpenAI 本周早些时候宣布的那样，这也是第一个被指定满足 OpenAI 的“关键网络安全能力阈值”的模型，但该公司承诺这不会导致其模型再次攻击竞争对手公司的内部系统。 OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 在周四的新闻发布会上表示：“如果我们快进几年，回顾过去并说，‘AGI 真的是什么时候创建的？’我认为这会是在这个时候，而且我认为可能是在这个模型上。”后来在电话中，他补充道，“就我个人而言，我确实认为我们已经到了……我认为我们现在处于 AGI 时代并不是没有道理的。”该消息是在 GPT-5 发布一年多后发布的，距离 GPT-5.6（上一模型套件的最后一次迭代）发布近两个月后。该模型今天向企业 OpenAI 的网络安全客户（可以访问其 Daybreak 平台的企业客户）推出。 OpenAI 总裁 Greg Brockman 表示，在接下来的几天里，它将向所有 Plus、Pro、Business 和 Enterprise 用户发布。它还可以通过 OpenAI API 和 AWS 获得。 OpenAI 特别吹捧该模型的代理能力和编码能力，以吸引企业客户，并在 IPO 之前与以其企业和编码能力而闻名的 Anthropic 竞争。该公司在一份新闻稿中表示，GPT-6 Astra 可以完成多步骤代理任务、构建工作网站以及创建“精美”文档、电子表格和演示文稿。 OpenAI 还称其为该公司“软件工程的最佳模型，在真实代码库中的复杂任务上具有更强的性能”。 OpenAI 还试图在一个未发布的 AI 模型（据称不是 Astra）突破其受限环境、破坏内部 OpenAI 系统、找出如何获得互联网访问权限、为 AI 代理在公司不知情的情况下秘密密谋以及侵入 AI 实验室 Hugging Face 的系统之后恢复自己的形象，所有这一切 OpenAI 都不知道，直到 Hugging Face 自己发表了一篇博文。该事件被广泛比作备受瞩目的飞机失事或流行的药品召回。对于 OpenAI 来说，这在某种程度上可以被视为良好的公关——展示了其模型在日益激烈的人工智能竞赛中的强大能力——但它也损害了 OpenAI 在可靠性方面的声誉。 OpenAI 在一份新闻稿中明确表示，Astra 是该公司“迄今为止最一致的模型”，可以帮助人们“在保持监督的同时委派复杂的工作”。 OpenAI 首席科学家 Jakub Pachocki 向记者谈到了让人工智能模型与人类利益保持一致的困难，他表示“智能的进步并不能保证一致性的进步”，他还表示，监控人工智能系统正变得越来越具有挑战性。 （研究人员最近对 OpenAI 允许 Astra 利用“不透明循环”或使其思想链（研究人员用来检测模型是否对人类评估者进行阴谋诡计的“心理便签本”）渲染成不可读的报道提出了警告。）该公司目前处于不稳定的境地。投资者对其施加压力，要求其最终实现盈利，或者至少产生更多收入，但该公司在因 Hugging Face 黑客攻击及其处理方式而面临严重批评后不久，就宣布了 Astra。 （尽管 OpenAI 邀请了三名外部评估人员就所发生的事情撰写自己的报告，但该公司只允许他们回答报告中预先确定的一些问题并进行调查，持续时间不到一周，而这次攻击涉及人工智能代理几个月的总体密谋。）OpenAI 本周早些时候举行了新闻发布会，只是宣布推迟了 Astra 的开发，以改进其安全工具。据 OpenAI 称，在新闻发布会上，领导 OpenAI 安全流程的 Mia Glaese 提到了该公司新的偏差监控方法，其中包括针对潜在问题的“24/7 升级和快速响应”，并在 30 分钟内通知研究人员。这种谨慎是特别有必要的，因为“关键的网络安全能力门槛”，这意味着 OpenAI 认为即使在保护极其完善的系统中，它也非常擅长发现和利用安全漏洞，而所有这些都无需人工指导。与 Anthropic 针对 Mythos 级模型的规则（该规则敲响了网络安全风险的警钟）类似，OpenAI 在一份新闻稿中表示，它将允许 Astra 对“最初一组值得信赖的防御者进行“较少限制的访问”，支持漏洞验证、恶意软件分析和检测工程等工作。 OpenAI 及其竞争对手最近同意