硅谷疯炒 AI 自我进化，李飞飞、Jeff Dean 齐泼冷水：无限加速不可信

离开 Google 27 年，Jeff Dean 创业押注 AI 自我进化 在 Google 工作 27 年后，Jeff Dean 选择了重新创业。 这位参与过 MapReduce、Bigtable、TensorFlow、TPU 和 Gemini 等重要项目的技术老将，如今把目光投向了一个更具挑战性的方向：让 AI 不仅能够解决问题，还能自己设计实验、验证结果，并从过去的研究中持续学习。 在斯坦福大学 HAI 的一场公开活动上，Jeff Dean 首次系统介绍了新公司 Discovery Loop 的技术思路和研发进展。 Jeff Dean 透露，团队吸引了来自 Gemini、DeepSeek、Kimi 等模型项目的研究人员，也有参与 Go 编程语言项目的成员。公司成立前三周，他们进行了约 400 场面试。按照 Jeff Dean 在演讲中的说法，团队中大约 10% 的成员曾获得 ACM 计算奖，另有约 10% 拥有国际信息学奥林匹克竞赛奖牌。他们试图将长期从事大规模 AI 研究的资深工程师，与年轻研究人才组织在一起。 按照他的设想，未来的科学研究可能不再需要庞大的团队逐项开展实验。少数领域专家就能够借助数以万计的 AI Agent，同时探索不同研究方向，让整个科研过程持续自动运转。这家公司已经开发出自己的 Agent Harness，建立了面向大规模 Agent 协作的基础设施，并运行着约 20 个自动化改进循环。Jeff Dean 给出了一个颇具野心的目标：让领域专家的生产力提高 20 至 50 倍。 Jeff Dean 对大型技术团队的复杂性有着切身体会。他曾管理过 Google 一个约 600 人的团队，后来负责的 Google Research 和 AI 团队规模一度达到约 4400 人。 他在演讲中回忆，自己曾花费大量时间参加有关季度运营支出的会议。后来，他通过调整工作安排，将需要向自己汇报的人员规模大幅缩减。 而在 Discovery Loop，他正在尝试另一种研发组织方式。传统大型工程项目通常需要将复杂问题拆解为大量子问题，分配给不同研究团队。但这会产生新的问题：不同团队之间需要协调资源，实验结果很难整合，而且项目启动之后，最初的问题拆解方式往往难以改变。Jeff Dean 认为，未来可以让自动化系统承担相当一部分工作。由少数领域专家确定重要研究目标，AI 系统则自动识别值得解决的子问题，组织实验，并根据结果不断调整方向。 目前，Discovery Loop 已经运行约 20 个自动化改进循环，主要用于研究如何提高实验效率，以及怎样从历史实验结果中学习。 而在演讲结束后，与斯坦福大学教授、World Labs 联合创始人李飞飞的一场对话，则把讨论进一步引向了当前硅谷最热门、也最具争议的技术概念之一：RSI（Recursive Self-Improvement，递归自我改进）。AI 究竟能否实现真正的自我进化？这种进化是否存在物理极限？当机器开始解决人类数百年来悬而未决的数学难题，科学家又将扮演什么角色？ 两位长期参与 AI 技术发展的研究者，给出了一些颇为冷静的回答。 以下为李飞飞与 Jeff Dean 对话实录，经AI前线翻译整理： 为什么离开 Google 创业？ 李飞飞：谢谢 Jeff，刚才的演讲非常精彩。我希望接下来的对话能够稍微深入一些技术细节。 我会同时扮演两个角色，一方面向你提问，另一方面也参与讨论。 首先，祝贺你创办 Discovery Loop。实际上，我最初想问的第一个问题就是：为什么要创办这家公司？你们四个人基本上都可以算是 Google 的老员工了。尤其是你，1999 年就加入 Google，对吧？ 过去几年，我们看到了不可思议的技术进步。但我仍然很好奇，在过去一两年里，是否发生过某个决定性的时刻，让你、Quoc、Sanjay 和 Oriol 意识到，必须去做一些不同的事情，而且这件事不能继续留在 Google 内部完成？ Jeff Dean：我认为，我们一直都对自动化系统感到兴奋，尤其是那些能够帮助人们以更加自动化的方式开发软件系统的技术。 例如，大约十年前，Quoc 就已经在神经架构搜索方面做了很多工作。你可以把它理解为一种早期的递归式自我改进系统。你告诉系统：“请帮我找到能够解决计算机视觉问题，或者语言问题的优秀模型架构。”我们当时就知道，这种方法是有效的。但在那个年代，你必须通过一大堆相当笨拙的 Python 代码来定义搜索空间。 而今天，你可以直接使用自然语言。你可以告诉一个足够强大的模型和 Agent 系统：“请探索一些新的模型架构，看看哪些架构能够帮助我们解读 MRI 图像。”然后，系统就可以自动开展相关工作。 我认为，这实际上是我们对计算机系统和 AI 系统能力认知的一次非常深刻的转变。如果能够让这样的系统稳定可靠地运行，就能够实现许多新的事情。尤其是在科学和工程领域，我们认为，这是一组非常适合利用 AI 产生积极社会影响的研究方向。 李飞飞：所以，真正让你们下定决心的，是这种循环，以及自我改进的能力？ Jeff Dean：你也可以说，我们几个有点过于痴迷这些循环了。不过，还有一点非常重要。我们都很享受从一个非常小的项目开始做起的过程。当只有五个人一起研究某件事情，后来加入第六个人、第七个人，再到第十个人，那种感觉很奇妙。 这件事在大公司内部当然也能实现，但我们还希望通过公益公司的形式来开展工作。我们认为，这能够体现自己的价值观。当然，创业意味着你还必须处理办公场地等各种各样的事情，但我们也觉得这些事情挺有意思。 李飞飞：这很有趣。其实，当我们创办 World Labs 时，也有过一个类似的决定性时刻。只不过，我们关注的技术方向与你们不同。当时，我们看到计算机视觉和生成模型开始融合。我们终于能够构建不再局限于文字的生成模型。那就是我们决定创办 World Labs 的时刻。 Jeff Dean：你们做出的那些生成模型，以及现在已经能够实现的能力，确实非常惊人。 “硅谷正在滥用 RSI” 李飞飞：好，我们接下来聊聊自我改进和递归自我改进。稍微深入一点技术，从机器学习领域的教育和研究经历来看，我们其实算是同一代人。刚才我就在想，从自己还是研究生的时候开始，这个概念到底经历了多少种不同的叫法。我们曾经把它叫作增量学习，后来是持续学习、元学习、终身学习，还有你提到的神经架构搜索。现在，我们又有了自我改进，以及 RSI。所以，你能不能为在场的观众，尤其是技术背景的观众，给出一个更加严格的定义？自我改进和递归自我改进究竟有什么区别？我真正想做的，是把幻想和事实区分开来。 Jeff Dean：我认为，可以从刚才介绍的那些循环来理解。这些循环能够应用于许多不同类型的问题。我所理解的自我改进系统，是指你给系统设定一个目标，让它去改善某个可以测量的指标。例如，你希望提高机器学习模型的准确率。系统便尝试不同的模型架构，努力提升准确率。 李飞飞：我先打断一下。很多机器学习算法本来就能够做到这一点，对吧？ Jeff Dean：是的。 李飞飞：但这本身并不是递归的。 Jeff Dean：完全正确。举个例子。我们把一批 MRI 图像数据以及对应的结果交给系统，然