Jeff Dean离职前最后一次对话：我低估了AI，也看清了创业者的唯一生路

一年前，Google 首席科学家 Jeff Dean 在 AI Ascent 2025 峰会上预测：到 2026 年，可能出现能够全天候工作、能力接近初级软件工程师的 AI 系统。 一年后，也就是 6 天前，他在一期 YC 访谈中承认，自己低估了 AI 的进展速度。模型处理复杂任务的能力，增长得远比他当时预想的更快。那么，在 Jeff Dean 看来，AI 接下来还会以多快的速度向前推进？创业公司又该如何在通用模型不断扩张能力边界的时代生存下来？ 今天凌晨，这期访谈又有了不同的分量。Jeff Dean 宣布，明天将是自己在 Google 的最后一天。效力 Google 27 年后，这位被誉为硅谷“程序员中的程序员”、深度参与 Google 系统架构和 AI 技术建设的传奇工程师，将与长期合作伙伴 Sanjay Ghemawat、Oriol Vinyals 和 Quoc Le 共同创立 Discovery Loop，一家聚焦机器学习、科学和工程前沿研究的公益性公司。Google 将作为创始投资方和云计算合作伙伴继续与他们合作。 据 WIRED 披露，这个创业想法其实只是几周前才浮出水面。为了挽留这支核心团队，Alphabet CEO Sundar Pichai 还曾在多次会面中试图说服他们“别摘工牌”。但最终，几人还是决定离开大公司体系，去换取一家初创公司才有的乐趣、速度和自由。 截图来自： https://x.com/JeffDean/status/2085035498222002595/photo/1 " Jeff Dean 在告别信中写道，自己见证了 Google 从一家只有 25 人的公司，成长为拥有 19 万多名员工的科技巨头。如今，Google 已有 13 款产品的用户规模超过 10 亿。从搜索、邮件、翻译和视频，到大规模计算、自动驾驶和 AI 系统，他参与建设的技术几乎贯穿了 Google 的整个发展历程。 而促使他们离开的一个重要原因，也恰恰是大公司难以摆脱的惯性。正如 Oriol Vinyals 所说，在大型组织内部，要推动任何激进变化，都必须先克服层层阻力；他们想做点不一样的东西。颇有意思的是，迄今为止，这家新公司甚至还没来得及招人、租办公室，至于谁来当 CEO，团队内部短暂停顿后，大家把目光投向了 Jeff Dean——“我想应该是我吧。”他说。 因此，这期发布于 Jeff Dean 离职前夕的访谈，也像是他站在职业生涯转折点上，对 AI 下一阶段的一次集中判断。节目中，他与 YC 合伙人 Diana Hu 讨论了 AI 从“模型为中心”转向“上下文工程”的范式变化、推理硬件正在出现的巨大机会，以及创业者如何在通用模型越来越强、越来越多应用可能被模型直接吞并的时代，找到真正值得坚守的生存空间。 本文基于该访谈视频整理，经 InfoQ 编辑。 太长不看版 Q：去年你说到2026年会出现能力接近初级工程师的 AI。一年过去了，这个预测打脸了吗？ A：相当准确，但我低估了一件事：模型处理越来越复杂任务的能力，增长速度比我预想的快得多。而且这种能力正在溢出到编码之外的领域，基于Agent的系统开始真正崭露头角。 Q：对2027 年的大胆预测是什么？ A：深度学习系统将实现全自动的问题分解和自动化实验循环：把问题拆成子问题，自动跑实验，整合结果，得到一个改进后的系统。而且这不只适用于机器学习，任何有可衡量目标的科学和工程领域都能用上。 Q：2001 年 Google 把搜索索引装进内存，2026 年那个“装进内存”的时刻是什么？ A：高性能、低能耗的专用推理硬件。推理是让Agent系统触达更多人的关键，专用硬件能带来 50 倍延迟改善和 30-80 倍能效提升。当年省掉的是磁盘寻址的物理延迟，今天省掉的是通用计算的多余步骤。但这次赌注更高，因为Agent需要的是成千上万次连续推理，每一次延迟都在累积。 Q：人们现在对 AI 最大的误解是什么？ A：大家都觉得Agent就是跑一两个小时的临时任务，但配合足够强的底层模型，你可以让Agent连续跑上几天甚至几周。 Q：那张催生 TPU 的餐巾纸数学，到底算出了什么？ A：2013 年语音识别效果暴增，我们算了笔账：如果每个用户每天对着手机说三分钟话，用 CPU 根本撑不住，于是造了 TPU。几年后 Transformer 横空出世时，它恰好成了根基。 Q：AI 时代的延迟数字清单，最该记住哪个数？ A：做一次计算消耗约一皮焦耳，但把数据搬进处理器的那一小段路，能耗是它的 1000 倍。这个差距决定了你必须做 batching，把很多样本拼在一起处理，把成本摊成“一千倍除以 batch size”。 Q：创始人该怎么选要做的领域？ A：拿当前最强的通用模型去测你想做的领域，如果模型成功率在 0% 或 1%，那是好信号；如果在 20%，那是危险信号，说明能力已经萌芽，下一代模型很快会覆盖。 Q：当 Agent 写完所有代码，什么技能变得稀缺？ A：品味，知道该让你的 Agent 去解决什么问题。一是靠解决过大量问题的经验，二是写下你觉得未来 12 个月可能重要的十件事，一年后回来复盘哪些真的变重要了，三是做疯狂的思想实验，比如“如果晶体管每天出错 20 次而不是每一百万年一次，系统该怎么设计？” 高性能、低能耗的推理硬件革命 Diana：去年5月在AI Ascent大会上，你说到2026年左右，可能会出现能够全天候工作、能力接近初级工程师的 AI 系统，现在我们离这个预测有多近？ Jeff：我觉得模型在处理基于Agent的长时间运行编码任务方面进步非常大。现在看起来很明显，它们确实已经相当有能力了，取决于你对“初级工程师”的精确定义，这个预测现在看来相当准确。 Diana：那你当时低估了什么？ Jeff：我认为处理越来越复杂任务的能力，其增长速度比我预想的要快得多。而且，在编码之外的领域，这些基于Agent的系统也开始真正崭露头角，我认为这将是未来一个重要的趋势。 Diana：你觉得2027年版的预测会是什么？ Jeff：我认为你会看到更多机器学习系统自身的自动化。具体来说，就是让机器学习系统通过运行大量实验来提升自己的能力，把问题分解成子问题，在紧密的自动实验循环中运行这些子问题，然后把结果整合起来，从这种全自动的问题分解和自动化实验中得到一个改进后的系统。而且这不仅适用于机器学习，也适用于科学和工程的其他领域。基本上任何有可衡量目标的事情，如今都能取得很大进展。 Diana：2001年，Google搜索还是跑在硬盘上的。你和Sanjay算了一笔账，意识到在某个时间点，整个搜索索引终于能装进所有运行中计算机的内存里。你们做出了那个激进的决定，基本上在几天之内就和Sanjay一起把一套全新的、基于内存而非硬盘的搜索版本推到了生产环境，正是这件事让Google成为了今天的Google。 历史总是在重演，那么在2026年的当下，那个“能装进内存了”的时刻是什么？在座所有人都应该思考和设计的那个转折点在哪里？ Jeff：情况有些不同，但我想说的是，你会看到越来越多高性能、低能耗的推理硬件系统出现。因为现在大家都意识到，推理是让这些Agent系