从TPU到自我进化的Agent，Jeff Dean如何判断AI的下一步

编辑｜Panda 2026 年的 YC Startup School 上，Jeff Dean 的声音有些沙哑。 访谈刚开始，他便解释自己失声了，今天听起来和平时不太一样。但这并没有影响台下听众的注意力。坐在他面前的 YC 合伙人 Diana Hu，一口气列出了一串足以写进计算机史的名字：MapReduce、BigTable、TensorFlow、TPU、Gemini。 任何一个项目，都足够成为一名工程师职业生涯的代表作。它们却集中出现在 Jeff Dean 和他身边一批 Google 工程师的履历里。 Diana 没有把访谈做成一次功绩回顾。她更关心另一个问题：当生成式 AI 已经席卷软件行业，Jeff Dean 这种最擅长从底层重构系统的人，今天究竟在看什么？ 答案并不是更大的模型。 在这场近一小时的对话里，Jeff Dean 反复谈到推理硬件、能量、数据搬运、上下文工程、长时间运行的 Agent、自动化实验系统，以及创业公司如何避开通用模型的正面碾压。他讲的看似分散，背后却有一条非常清楚的主线：AI 的下一阶段，不只是把模型训练得更聪明，而是把模型放进一个能长期工作、持续试错、自动验证、不断积累能力的系统里。 这也意味着，AI 竞争正在从「谁有更大的模型」，转向「 谁能更好 地组 织智能 」。 一、AI 已经像初级工程师，但这不是最重要的变化 2025 年 5 月，Jeff Dean 曾做过一个引发广泛讨论的判断： AI 的能力已经接近一名初级工程师 。 一年后，Diana 问他，这个预测实现得怎么样？ Jeff Dean 的回答很直接。他认为，这个判断「相当准确」。模型在 Agent 化、长流程编码和复杂任务上的进步，甚至比他当时预想得更快。 「模型完成越来越复杂任务的能力，增长得比我预期更快。」他说。 更值得注意的是，这种能力不再局限于写代码。越来越多 Agent 系统开始进入科学、工程和其他专业领域。它们不只是回答问题，而是拆任务、用工具、运行实验、读取结果，再根据反馈继续行动。 把 AI 类比成初级工程师，容易让人把注意力放在人力替代上。但 Jeff Dean 更关心的是另一层变化：当一个「初级工程师」可以复制成几十个、几百个，并行工作几天甚至几周，组织生产的方式会发生什么变化？ 在传统团队里，初级工程师需要上手业务，需要理解工具，需要不断得到反馈。Agent 也一样。只不过它的培训材料不再只是文档，而是提示词、工具说明、技能文件、测试体系、评估器，以及整个上下文环境。 这使 AI 工程出现了一个新的分工。 过去，工程师主要负责写代码。未来， 更多工程师会负责定义问题，搭建环境，编写规范，设计反馈回路，再调度一群 Agent 去完成任务 。 Jeff Dean 对 2027 年的预测正是如此。他认为， 机器学习系统会越来越多地参与改进机器学习系统本身 。它们会把目标拆成子问题，自动运行大量实验，比较结果，再把有效方案组合起来，形成更强的新系统。 「只要一个领域存在可测量的目标，就有机会取得很大进展。」 这句话是整场访谈的第一把钥匙。 AI 自动化最先攻入的，不一定是知识最多的领域，而是 反馈 最清晰的领域。代码能不能通过测试，芯片布局能不能降低面积，模型结构能不能提高精度，材料性质是否满足要求，这些问题都有相对明确的评价标准。只要评价器足够可靠，机器就能用极高频率反复试验。 所以，AI 时代真正重要的单位，可能不再是一次回答，而是一次完整的闭环：提出方案、执行方案、测量结果、修正方向。 二、改变 Google 搜索的是一道算术题 Jeff Dean 的许多代表性工作，都来自一个非常朴素的起点：先把数量级算清楚。 2001 年，Google 搜索仍大量依赖硬盘。硬盘容量大，但访问速度慢。Jeff Dean 和 Sanjay Ghemawat 做了一次估算，发现 Google 当时的整份搜索索引，已经可以放进所有服务器的内存里。 今天听起来，这只是一次存储介质升级。但在当时，它意味着完全不同的系统设计。 如果索引主要待在硬盘上，查询需要等待机械寻道。只要把索引放入内存，访问延迟就能骤降。两人很快写出新版本，并在几天内把它送进生产环境。Google 搜索由此明显变快。 这个故事最容易被包装成天才灵光一现。Jeff Dean 的讲法却更像一名工程师在陈述常识： 系统条件变了，原来不成立的方案突然成立，那就应该重新计算一次。 很多行业创新都发生在这种时刻。 一个旧问题长期存在，人们已经习惯围绕它打补丁。后来，硬件价格、内存容量、网络带宽或模型能力跨过某个临界点，原来的约束消失了。可大多数人仍沿用旧架构，因为旧架构已经变成常识。 Jeff Dean 擅长做的，是 把常识重新变成假设 。 他会问：为什么一定要这样？今天的数量级还是昨天的数量级吗？如果把最贵的一步换掉，整个系统会不会出现完全不同的形态？ 这也是他给创业者的建议。 不要只看现有方案哪里不够好，而要从第一性原理重新看问题。 能不能把性能提高一个数量级？能不能把成本降低两个数量级？能不能不再沿用行业默认的实现路径？ 「有时候，你只需要眯起眼睛看一个问题，不要被今天的解法锚定，而是从第一性原理思考应该怎样解决。」 这句话听起来并不神秘。真正困难的是，多数人进入一个行业后，会迅速学会这个行业的所有默认答案。 经验帮助人提高效率，也会让人失去重新提问的能力。 三、三分钟语音，为什么催生了一颗 TPU 2013 年，Google 的深度学习语音识别开始显著超过旧系统。错误率下降了一半，相当于过去二十年语音识别进展在几个月里集中发生。 产品团队当然兴奋。Jeff Dean 却先算了一笔账。 如果语音识别真的变好，用户就会更愿意使用。假设每名 Google 用户每天只使用三分钟语音识别，Google 需要多少服务器才能支撑？ 结果并不乐观。按照当时 CPU 的效率，Google 可能需要把服务器规模扩大一倍。 这就是 TPU 的起点。 它不是因为研究团队突然想造芯片，也不是为了证明 Google 有能力做硬件，而是因为一个成功的模型即将制造一个无法承受的服务成本。 这段历史揭示了 AI 产品中一个经常被忽略的规律：模型效果提升，并不总是降低成本。恰恰相反， 效果越好，使用量越大，系统压力越重 。 当语音识别不好用时，用户很少调用。系统成本不是问题。当错误率大幅下降，需求突然被释放，原本隐藏在后台的算力约束就会浮出水面。 TPU 选择的路径，是为机器学习最核心的计算模式做专用硬件。它不需要运行浏览器，也不需要处理所有通用程序。它主要擅长低精度、稠密线性代数。这类计算恰好位于现代机器学习的中心。 第一代 TPU 最终带来了数量级上的收益。按照 Jeff Dean 的说法，它比当时的 CPU 和 GPU 节能 30 到 80 倍，延迟也低了 20 到 30 倍。 这里还有一个容易被忽略的设计尺度。 TPU 很专用，但没有专用到只能运行某一种固定模型。团队知道机器学习算法还会快速变化，于是把芯片设计成一种较通用的线性代数系统。它牺牲了运行 Chrome 或 Word 的能力，却保留了支持未来算法演进的空间。 这是一种很难把握的平衡。专用得不够，收益不