超越回忆和能力幻觉

超越回忆和能力幻觉 2026-08-25 关于人工智能和编程似乎有两种主流观点。有人说人工智能几乎毫无用处，因为它会编写糟糕的代码，并且修复错误比自己编写代码需要更长的时间。另一种说法是，人工智能生成的代码非常好，最终会让程序员被淘汰。我认为这两个论点都集中在错误的事情上，因为它们集中在谁编写了代码。我们从未编写过所有代码，我从未认为回忆语法和从内存中键入代码的能力对我的工作特别重要。我使用文档。我在互联网上搜索。我从 Stack Overflow 复制了示例。我读了博客文章。我看同事写的代码。在现代软件系统中，这几乎是不可避免的。典型的应用程序可能涉及 TypeScript、Python 或 Go、YAML、Dockerfiles、SQL、配置文件、CI 管道和十几种其他技术。没有人能记住所有的细节。因此，如果从 Stack Overflow 复制一段有用的代码一直都是可以接受的，那么为什么要求机器生成该代码会有根本的不同呢？所有权从来都不是作者身份 我觉得“人工智能编写代码”的论点没有特别令人信服的另一个原因是：我们一直在开发我们没有编写的系统。您继承了另一个团队的服务。离开公司的人写了一半。你负责的部分由三个人贡献，你甚至不记得谁写了哪个函数。然而，在使用该系统足够长的时间后，您开始认为它是您的。为什么？不是因为你写了每一行。因为你明白。你知道它的作用。你知道它为什么会这样。你知道它的边界在哪里，它的依赖关系是什么，以及当出现问题时会发生什么。这就是所有权的实际感觉。外包的危险之处 这就是我认为人工智能辅助编程变得有趣的地方。问题不在于机器编写代码，问题在于很容易让它接管思维。说“我明白需要发生什么；为我写这个”和说“让这个工作”然后接受任何返回的结果之间有很大的区别。在第一种情况下，您委托了打字，而在第二种情况下，您委托了理解。这些根本不是等价的。调试是显而易见的地方 编写代码非常容易外包。如果不放弃一些重要的东西，调试就很难外包。当您自己调试系统时，您被迫构建它的模型。你有一个预期的结果。发生了一些不同的事情。所以你要逆向思考：本来应该发生什么？需要发生什么才能产生观察到的结果？在整个链条中，现实与您的期望有什么不同？经过足够多的这些练习后，您将获得非常有价值的东西：对系统行为方式的直觉。我曾与不具备这项技能的开发人员合作过。当有东西坏了时，他们会随机改变东西。他们只是在黑暗中进行拍摄，直到最终有效果，但他们不知道为什么。那不是调试。人工智能让我们很容易陷入这种模式。给机器错误，让它提出修复方案，尝试修复，报告下一个错误，重复直到测试通过。您无需为您正在生产的软件开发有用的心智模型，就可以生产可工作的软件。能力的错觉 这比人工智能取代程序员更让我担心。人工智能可以制造出你理解系统的错觉，因为它可以让系统为你工作。你提出一个问题并得到答案。您遇到错误并获取补丁。该补丁不起作用，因此您提供新的错误并获取另一个补丁。最终机器找到了有用的东西。从表面上看，这看起来像是能力。但如果你不明白该解决方案为何有效，那么你实际上并没有变得更有能力。你越来越依赖机器来维持这种幻觉。当发生机器无法解决的事情，或者你的代币用完时，后果会变得特别严重。那时你需要你从未建立过的心智模型。这对于初级开发人员来说更重要。对于经验丰富的开发人员来说，至少有大量的知识储备是通过多年艰苦的工作方式积累起来的，但对于今天开始的人来说，经验可能永远不会以同样的方式积累。如果每个令人沮丧的调试会话都可以交给人工智能，那么就没有动力花四个小时来弄清楚系统为何如此运行。这四个小时并不是浪费时间。它们是心智模型的来源。你不能通过成功地改变系统来学习系统，一旦你能够解释它们失败的原因，你就能够成功地改变它们。不要外包理解