理解是新的瓶颈

2026 年 7 月 理解是新的瓶颈 这是我在 2026 年 7 月的人工智能工程师会议上发表的演讲的书面版本，也以推文形式分享。热门观点：我认为理解我们的代理编写的代码仍然很重要！在本次演讲中，我将解释为什么会出现这种情况，并展示一些如何有效理解代码的想法。好吧，让我们开始吧。代理们正在为我们编写越来越多的代码，我们都知道跟上步伐变得越来越困难。但好消息是：理解代码的方法有很多！逐行读取差异并不是唯一的方法。本次演讲的大部分内容将讨论我发现有助于理解我的代理正在构建的系统的技术：代码解释器文档检查我的理解的测验我可以使用它来理解系统的微观世界但首先我们必须问一个更基本的问题......为什么理解？为什么？为什么懂？难道我们现在不应该让自己脱离循环，让特工自己循环吗？随着代理变得越来越聪明，我们关注细节不是变得不那么重要了吗？我想很多人——甚至那些支持理解的人——对这个问题的答案都有点不正确！一种可能的答案是：我们了解验证。我们检查代理的工作，看看它是否正确。正确可能意味着很多事情：它是否符合规范、架构是否良好……但这从根本上来说是一个赞成/反对的问题。事情是这样的：代理人在验证自己的工作方面做得越来越好。这很好！我喜欢我的经纪人不犯错误。但是嗯。这让我们人类何去何从？这就是另一个答案的来源：我们可以理解参与。您可以了解代理正在做什么，以确保您可以积极参与创作过程。这就是为什么这很重要......它不仅仅是一个循环！一个项目有很多很多与代理的循环。你对系统的理解是你提出下一个想法来改进它的能力的一部分。你的头脑中需要有一套丰富的概念，才能创造性地、流畅地思考如何推动事情向前发展。如果您缺乏这种流畅性，那么您参与该项目的能力就会受到极大的限制。顺便说一句，这与玛格丽特·斯托里（Margaret Storey）和西蒙·威利森（Simon Willison）推广的认知债务概念密切相关。这就像技术债务：你可以在短期内不了解正在发生的事情，但它最终会咬你一口。好吧，很好，理解很重要。但这提出了下一个问题：如何？当我们使用人工智能并快速发展时，我们如何建立这种人类理解？事实证明，这并不是有人第一次思考如何沟通理解。我认为我们可以将教育视为一种灵感。我们能否窃取有史以来最好的教育理念并将其应用于这个问题？技术 1：解释 今天我想分享三种技术来展示我们如何尝试这一点。第一：解释。什么才是好的解释？每当代理完成一些工作时，这就是一个解释的机会——一个工件。最天真地，我们可以读取代码差异：更改的原材料。但如果我们问：最好的解释是什么？如果你有一个团队（无论是人类还是人工智能），他们非常注重向你解释某些细节的细节，那感觉如何？这是一个答案。我创建了一项名为 /explain-diff 的技能，我每天都使用它，许多同事发现它很有价值。它将精心构造的代码解释器输出为 HTML、markdown 或 Notion 文档。 Notion 是团队协作和讨论这些解释器的好地方。 （免责声明：我在 Notion 工作，所以我有偏见。）让我们使用编辑视频游戏视角的示例来看看这些解释器中的内容。第一个原则：教我背景信息！在我们了解发生了什么变化之前，请帮助我了解已经存在的内容。既然如此，请教我有关游戏引擎的知识。第二个原则：直觉优先于细节。在任何代码之前，它都会陈述目标——“通过 2D 绘图技巧让花园感觉是三维的”——并解释相关概念，比如什么是等角投影。所有这些都构建了我对变革本质的直觉。它让我成为人类，这样我就可以成为理解的平等参与者。您还可以通过交互式图形建立直觉。在这里，我通过在花园周围拖动岩石并观察它们的坐标移动来理解等距透视。 （这是使用刚刚发布的新功能 Notion：您现在可以在页面内嵌入交互式 HTML。）我们终于看到了代码。但典型的差异是一堆按字母顺序编辑的文件，没有任何解释。我称之为“文学差异”，它的结构就像散文一样——以合理的顺序遍历更改，并附有周围的解释和嵌入的代码片段。比原始差异的审查速度更快。所有这一切的最终结果是一个很好的解释包。我