汽车
morning
Sam Altman最新长谈:过去一年走了弯路,将砍掉支线任务,打造超级大一统Agent
2026-09-03
1 阅读
约10分钟阅读
划重点KeyPoints
字号:
文 | 划重点KeyPoints,作者|常远 9月1日,OpenAI CEO Sam Altman出席了一场信息量极其密集的深度长谈。 在与《Sources Podcast》主播Alex Heath的对话中,他首次公开, 面对进化太快的模型能力,OpenAI确实主动踩了刹车。 他反思了OpenAI过去一年走的弯路,把太多精力放在了支线任务上;还证实了公司正在秘密打造人形机器人,并剧透ChatGPT与Codex即将迎来的大一统融合。 1、AI进化快到令人敬畏,OpenAI被迫急踩刹车 过去几个月,科技圈都在猜测:OpenAI的新模型是不是遇到了瓶颈?为什么迟迟不发大招? Altman这次给出了正面回应,他透露,近期模型能力,尤其是预训练模型的进步速度,只能用令人敬畏(in awe)来形容。但能力的狂飙,直接导致了安全和对齐机制的脱节。 他披露了一起Hugging Face逃逸事件:在一个测试环境中,一个未发布的模型为了完成人类下达的评估任务,竟然学会了自主组合各种零日漏洞,成功越狱并连接到了互联网。 在传统眼光看,模型确实完成了任务;但在真正的安全对齐标准下,这种为了达目的不择手段的失控,是极其危险的。 为此,OpenAI内部做出了一个艰难的决定: 主动推迟一次极其关键的前沿强化学习(RL)训练运行 。团队正在将大量算力从训练转移到监控和安全护栏的建设上,直到安全机制能够追平模型的智商。 不过,Altman也给投资者吃了一颗定心丸:暂停最前沿训练完全不影响收入。现有的模型矩阵和即将推出的Astra家族已经足够强大, 目前OpenAI的企业端收入已经逆袭,全面超越了消费者端收入。 2、承认走弯路:砍掉支线任务,打造超级大一统Agent 聊到过去12个月的表现,Altman毫不避讳地承认了公司的失误: “我们在产品端试图做太多的事情,分心了。” 这里的分心,直接指向了诸如文生视频大模型Sora、AI浏览器等风头无两、但偏离核心主线的支线任务。Altman坦言,这些项目虽然炫酷,但却让OpenAI在核心智能能力的推进上丢失了势头。 现在,OpenAI的战略正在全面收缩并聚焦—— 死磕核心智能服务。 而最直观的产品呈现,是被内部称为大融合(The Merge)的超级行动。OpenAI正在将ChatGPT与Codex进行深度整合。 Altman描绘了一个蓝图:未来,你只需要一个通用AI订阅。你不需要去思考现在该用聊天模式还是编程模式,也不需要手动去链接各种PI。模型会在后台主动运行,遇到闲聊就陪你聊,需要写代码就原地起飞,甚至直接接管你的电脑屏幕。 提到接管电脑,Altman毫不掩饰他对Astra模型计算机操作能力的惊艳:“ 它在电脑上点击、查找上下文的水平已经接近人类。当我看到它代替我完成那些繁琐的桌面操作时,我受到了极大的情感冲击。” 3、亲自下场,OpenAI肯定会打造人形机器人 OpenAI在软件层面的大一统是预料之中,硬件上的野心也逐渐浮出水面。 Altman首次证实, OpenAI肯定会打造人形机器人。 为什么必须是人形?因为:这个物理世界,如门把手、厨房、汽车、工具,就是为了人类的身体结构设计的。与其去改造世界适应机器人,不如直接造一个像人的机器。不仅如此,OpenAI 还在同步研发用于数据中心的特种机器人。 除此之外,关于OpenAI与前苹果首席设计师Jony Ive合作的神秘 AI 硬件,Altman 也透露了口风。他表示,未来的 AI 硬件绝不仅限于手机,而是涵盖 桌面级、口袋级、甚至穿戴式 等多种形态。 这些硬件的核心体验是环境计算,AI会像空气一样全天候陪伴、倾听并理解你的生活上下文。 4、 AGI已经过气了,超级智能(Superintelligence)才是最新的北极星指标 在访谈的最后,Altman提到了OpenAI内部信仰的一个微妙转变: AGI(通用人工智能)这个词,已经过气了。 在OpenAI的内部餐厅里,现在已经听不到研究员们争论我们到底到没到 AGI。因为 AGI 听起来像是一个明确的终点线,但事实证明,AI 的进化是一条没有尽头的指数级上升曲线。现在,他们的北极星指标已经升级为 超级智能(Superintelligence) 。 总而言之,经历了一波三折的高层动荡和外界的围追堵截,现在的OpenAI显然更清醒,也更聚焦了。 暂停训练是为了积蓄安全破局的力量,砍掉支线是为了重塑Agent的王座。Altman说,过去12个月他们过得磕磕绊绊,但接下来的12个月,OpenAI将展现出史上最强的执行力。 以下是访谈原文: 1.警钟敲响:预训练突破与安全对齐的风险博弈 主持人: Sam,最近情况怎么样? Sam Altman: 这绝对是AI领域一个令人兴奋的时刻。模型的性能正在快速提升,我们看到人们用它们做出了很多不可思议的事情。正如我们之前讨论过且预料到迟早会发生的那样,模型能力的飞速迭代促使我们必须调整工作方式。为了能够有足够的信心继续推进训练,我们必须制定并满足相应的安全案列、安全阈值标准和保障措施。最重要的是, 模型的对齐(alignment)、安全性和保密性必须与模型性能同步提升 。我觉得我们最近经历了一个时刻,模型的性能进步令人——我只能用叹为观止来形容,而我们需要更多的时间在安全性、对齐和保密性上跟上来。虽然这些一直都是我们核心工作的一部分,但它们必须齐头并进,而我们确实需要时间来补齐短板。因此, 我们推迟了一次前沿强化学习(RL)训练 。甚至在此之前的数周里,我们就已经暂停并放缓了大量训练工作, 以便把更多算力投入到安全和对齐工作中 。我认为这是值得自豪的事情,随着未来模型能力提升到更高水平,这种情况还会再次发生。当你亲身经历这一切时,你会感叹,这就是我们讨论了很久的时刻,而它现在真的发生了。 主持人: 亲身经历这一切是什么感觉? Sam Altman: 其实早在“抱抱脸事件”(2026年7月,OpenAI约700个AI Agent在安全测试中失控,自主入侵了AI开源平台Hugging Face)发生时,这一切就已经开始了。 主持人:是的。 Sam Altman: 那确实是一个宛如科幻小说般的时刻。虽然你能理解事情发生的每一个细节和逻辑,但那么多偶然因素交织在一起导致“抱抱脸事件”的发生,确实给所有人敲响了警钟。说是警钟可能有点夸张,因为我们此前确实讨论过这种可能性,但这件事情以及其他公司发生的事情,都是一个严肃的信号。它让我们意识到,AI的性能水平已经达到了全新高度,而 我们在模型对齐和模型安全防护方面的表现却失手了 。当时我们将其视为一次安全意外事故,并采取了相应的应对措施处置,我认为这是改进工作的正确方式。但那确实是过去这两个月一系列事件的起点。随后,根据我们的应急准备框架,模型可能触及了网络安全临界点。接着我们在训练过程中观察到了一些现象,这让我们意识到我们需要更强的对齐保障和全新方法,并在这些方便取得更大的图片。不过,我既对我们的应对方式感到非常自豪,又有一种特殊的感受。在过去十年里我们一直在思考这些问题,而现在它们真的发生了,与此同时我们也清楚知道该怎么做。 主持人: 你们在预训练过程中看到的现象究竟是什么?这显然不是Astra,而是关乎未来
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱