用户明显感到沮丧

在本文中，我试图理解为什么编码代理使用起来会令人恼火。我认为问题在于他们的对话用户体验：他们的行为足够像乐于助人的同事，触发我们的社交本能，但他们没有像人们那样学习、适应或承担责任，这使得他们一再犯错误感到比他们应该的更令人沮丧。尽管经常受到针对意大利人的指控，但我总体上是一个冷静的人。甚至是温顺的，尤其是在工作中。然而，最近我经常发现自己有点不高兴，疯狂地敲击我的笔记本电脑“你他妈的做了什么？？？”。您可能已经猜到，这些长篇大论的接收者是一名编码特工。我知道这完全没有意义。编码代理只是生成补丁的概率机器。有时它们很好，有时很坏。选择你喜欢的，丢弃其他的。没什么大不了的，对吧？嗯，不完全是。由于某种原因，糟糕的结果常常让人感到恼火。但为什么我会对算法感到愤怒呢？我是唯一受影响的人吗？编码特工是否表现出一种我不知道的虐待倾向？我认为还有另一种解释：对话式用户体验一定会让你感到沮丧。编码代理假装是人。当然，如果你直接问他们，他们会告诉你他们只是“没有感情、没有主观经验的人工智能助手”，但他们的行为并不是这样的。他们像真人一样说话。他们使用轻松友好的语气。他们经常赞美你，当他们“反击”时，他们会温柔而细心。尽管从理性上讲，您知道自己只是在阅读大量可能的文本，但这些工具会让您感觉自己正在与一个人互动，一个乐于助人的同事，与他一起工作很愉快。直到它不是。就像在所有关系中一样，当事情开始出错时，裂痕就开始显现。当你第一次发现错误时，你会耸耸肩。你指出了这一点，代理人就道歉了。然而五分钟后，同样的错误再次出现。你第二次纠正他们，注意到他们的累犯，所以现在他们也更新了他们的记忆并向你保证“这种事永远不会再发生”。但事实确实如此，一次又一次，因为这些工具遵循最可能的路径，在某些情况下，没有任何硬性规则可以将它们推离。如果代理是一位人类同事，你就有充分的理由感到有点恼火。但这是一种算法；失去耐心是荒谬的。然而，由于它表现得像同事，这种幻觉最终会触发同样的情感线路。和同事在一起时，你会因为不想成为一个可怕的人而受到限制，但和经纪人在一起时，你可以随意抨击。然而，这并不是一种宣泄。你只是感到沮丧，并意识到无论你做什么或说什么都绝对没有效果。过去几个月我一直在使用 Claude Code，最近我注意到，当纠正时，它经常会反映出哪里出了问题以及应该做什么。也许这是为了改善您对该工具的看法。但我不能说它对我有用。我并没有真正从这些事后分析中得到任何有用的东西（例如，关于如何重新措辞我的指示的线索），而且它们最终只是作为烦人的填充物阅读。也许我更喜欢一个更激进的解决方案：完全放弃人类的伪装。让代理听起来临床、机器人。消除我正在与人互动的想法，让我感觉我只是在批准或拒绝随机结果。当然，“尝试像人类一样行事”是赋予法学硕士智力的机制，因此会话界面成为与法学硕士互动的默认方式是有道理的。在很多方面，它们都运作良好。实际上，我可能只需要调整自己，不要陷入与人交谈的幻想中。尽管我对未来需要防范工作中使用的工具并不感到兴奋。