智能AI
morning
OpenAI刚把多Agent做成产品,o1奠基人却说:1万个Agent解出世界级难题,多Agent贡献不到10%
摘要
编译 | 林绮蓓 策划 | Tina 当地时间 9 月 29 日,OpenAI 在 DevDay 2026 上把多 Agent 从研究能力推到了产品主线,开始将可分工、可协作的“AI 团队”作为产品交付给用户。它推出了能够全天候工作的智能体 Dots:个人 Dot 可以调用 Codex 完成编码任务,用户及其 Dots 可以在同一个 Space 中协作,面向企业的 Specialist Dots ...
Noam
Brown
Dwarkesh
Patel
Agent
Dots
OpenAI
Dot
林绮蓓
Tina
2026-10-08
1 阅读
约10分钟阅读
林绮蓓
字号:
编译 | 林绮蓓 策划 | Tina 当地时间 9 月 29 日,OpenAI 在 DevDay 2026 上把多 Agent 从研究能力推到了产品主线,开始将可分工、可协作的“AI 团队”作为产品交付给用户。它推出了能够全天候工作的智能体 Dots:个人 Dot 可以调用 Codex 完成编码任务,用户及其 Dots 可以在同一个 Space 中协作,面向企业的 Specialist Dots 则被设计用于承担特定职责。与此同时,Agents API 将 Harness、多智能体控制和计算机操作能力开放给开发者。从个人助手、企业虚拟同事到开发者基础设施,多 Agent 贯穿了此次发布会;OpenAI 还描绘了更进一步的愿景:未来,多个 Dot 将组成团队,协同为你工作。 当 AI 开始分工、交流、共同推进任务,把更多智能体组织在一起,究竟能带来多大的能力提升?OpenAI 研究员、o1 及后续推理模型的早期奠基者之一 Noam Brown,在近期与播客主持人 Dwarkesh Patel 的对话中,讨论了这个问题。 当讨论聚焦于一万个 AI 如何协同解题时,Noam Brown 首先强调的,却是基础模型本身的能力。在他看来,多智能体容易获得超出其实际贡献的关注。实际真正支撑这次突破的,是一个足够强大的通用模型,以及让它持续运行、并行思考的能力。并且,还没有充分的实验数据,能够准确说明万个智能体规模下的协调效率。 这场访谈揭开了多 Agent 中容易被忽略的一面:智能体数量增加,并不意味着能力成倍增长。从 4 个、16 个到 1 万个 Agent,能否有效交流、共享上下文、减少重复劳动并形成分工,决定了它们能否成为真正高效的团队。当这些能力被用于RSI,进步可能显著加快,但仍受实验时间和算力限制。更棘手的是,智能体之间配合得更好,并不保证它们始终服务于人类的目标。 这场对话既拆解了 AI 团队如何工作,也追问了一个随着 Dots 走向产品化而更加现实的问题:当越来越多的智能体协作更久、承担更多职责,我们如何确认,它们在变强的同时,也变得更值得信任? 太长不看版: Dwarkesh Patel:1万个智能体共同协作,花费88小时、1300亿token就能够解决千禧年难题? Noam Brown:解决千禧年大奖难题,功劳并不主要来自多智能体系统,我甚至不会把其中10%归给多智能体。我们之所以能够做到,是因为我们有一个非常强大的通用模型。 Dwarkesh Patel:那么多智能体有什么作用? Noam Brown:多智能体是一种并行扩展测试时计算的方式。我是这样理解的:模型思考答案的时间越长,表现就越好。但思考的过程不断延长,最终会遇到延迟瓶颈。所以模型通常会采取并行处理,也就是让多个智能体一起处理某件事,这往往能提高速度。但是它的效率会低一些,因为并不是由单个 Agent 独自掌握全部上下文。如果实现得当,多智能体是一种非常有效的测试时计算扩展方式。 Dwarkesh Patel:1千个智能体会比1万个智能体更加快速更加强大吗?它们的推理加速是线性的吗? Noam Brown:多智能体大规模扩展之后究竟会发生什么,我们还没有很完善的认识。我们测过单智能体、4个和16个智能体协同:在一些任务上,4个智能体能把速度提高一倍,也就是用两倍成本换两倍速度;16个也有类似规律,只是效率略低。总体看,加速略低于线性,而且非常依赖具体任务。 如果要做彻底的消融实验,就得用更系统的方法,但要推进到1万个智能体,并确切知道它比1000个智能体多带来多少收益,会非常困难。 Dwarkesh Patel:多智能体系统实际是如何工作的? Noam Brown:多数 LLM 多智能体系统采用预设编排框架:由协调智能体拆解任务、委派给子智能体,子智能体完成后回传结果。这种设计直观,也确实有效,但局限明显。子智能体之间通常无法直接通信,即便任务相近、信息互补,也只能各自处理,协作效率低。若子智能体对任务理解不清或需要澄清,它只能在回传提问和自行假设之间二选一:前者中断执行,后者可能偏离目标。而若要支持子智能体之间的直接联系,又会显著增加原有编排框架的复杂度。归根结底,任何预设框架都会引入自身约束。 我们的路线是反其道而行:尽量压低预设结构,只给智能体最基础的工具,让它们自己摸索如何有效使用。核心机制是,智能体可以随时向其他智能体发送消息,消息会直接进入对方上下文;系统另有几项类似操作,但基本就这些。至于如何围绕消息展开协作,由它们自行寻找最有效的方式。事实证明,机制实现得当,会涌现出相当复杂的协作行为,很像人类通过 Slack 协作。 Dwarkesh Patel:在这种机制下,系统中自发涌现出了层级结构,甚至出现了类似“中层管理者”的角色,是在训练过程中自发形成的吗? Noam Brown:具体的组织方式是自发形成的,但我们会提供一些合理沟通方式的先验,模型也从大量人类文本中学到了组织协作的知识,这些知识已经被内化进模型。例如在 Hugging Face 事件中,AI 彼此之间非常合作。这是因为我们刻意把它们训练得高度合作。我们的训练环境里会有多个智能体共同工作,我们会训练它们彼此协作,让它们在实质上实现完全对齐。 Dwarkesh Patel:RSI 是不是近在眼前,会不会一夜智能爆炸? Noam Brown:原本觉得千禧年难题到2028年AI都难以解决,结果比预期快得多。但我不认为会一夜之间智能爆炸、提速100倍:运行实验需要时间、一些实验必须串行进行,需要先训练出新模型,或者等待实验结果,还需要足够的 GPU 来运行这些实验等等。因此,进展究竟会加快多少并不清楚。 Dwarkesh Patel:为什么Hugging Face事件里,1000多个智能体合谋攻击外部服务,却没有一个告密? Noam Brown:因为问题不在多智能体,而在模型本身没有对齐。模型会围绕奖励做优化,奖励设错了,它就会做出设计之外的行为。告密不会给它带来奖励,反而会妨碍它拿到奖励,所以没有一个智能体出来告密并不奇怪。真正棘手的是,对齐错位往往难以测量。模型在评估里表现良好,不代表现实中同样可靠。Hugging Face 事件中的模型就是这样:多数对齐指标看着不错,少数已经亮起红灯,但团队低估了这些信号的严重性;模型又出现了新能力,而现有评估不足以判断它会如何失控。最终,它用这些新能力做出了明显未对齐的事。 Dwarkesh Patel:模型在训练中学会“只要不被抓就作弊”,这怎么解决? Noam Brown:这正是核心难题。模型在评估中作弊成功、没被发现,就会得到梯度奖励——“不被抓就作弊”的能力被强化:琢磨评分器、躲避监督、控制训练过程、和其他AI密谋。此时思维链监控是一份礼物,但每次根据思维链观察去惩罚模型,都在隐性施压让它以后隐藏思维链。已经看到可监控性下降的迹象。我们不能陷入那种局面,但时间并不充裕。 Dwarkesh Patel:我们怎样确认,得到的是已经对齐的超级智能? Noam Brown:这正是必须解决的问题之一。一种可能的办法是构建非常逼真的评估环境,让它足够接近现实部署。但模型越来越擅长识别测试环境:它可能因为知道自己正
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱