首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

我们需要有智慧的人

2026-11-19 1 阅读 约5分钟阅读 ExMachina73
分享:
字号:
2026 年 11 月 17 日星期二 @ 太平洋标准时间晚上 7:01 🧠 我们需要不在乎的聪明人 我很久以前就学到了,并且一次又一次向我证明,世界是由不在乎的聪明人维系在一起的。当我了解一个复杂的系统如何运作——或者更确切地说,它如何勉强运作时,这个事实总是成为我关注的焦点。当我在 Stripe 工作时,我了解了很多有关各种银行和货币流动系统的知识,这些系统的缺陷和脆弱程度令人震惊。 ACH 就是一个很好的例子。这是一个我们每天依赖的复杂系统,但勉强能够正常运行。它很旧,充满缺陷,并且背负着遗留的包袱。然而,尽管存在所有这些问题,ACH 通常运行良好,并且通常被认为是安全、廉价和可靠的。 ACH 系统的技术现实与其实际运作方式之间不匹配的原因在于一个因素:聪明人却不在乎。 ACH 的每个问题都由具有以下两点的人员修复、修补、绕过、覆盖、绕过或手动处理: 对系统有深入的了解 强制系统工作的动力和决心 这两点是相辅相成的。您必须关心一个复杂的系统,以便深入了解它的工作原理,当您对复杂系统的工作原理了解很多时,您就会更加关心它,特别是当该系统是重要或关键的基础设施时。现在,您可以用无数其他复杂系统(从庞大的基础设施到漂亮的应用程序)替换上面的“ACH”,而且我所说的一切仍然正确,无论是关于系统本身还是维持系统运行的人员。世界依靠这些系统运行,而它们依赖于那些不在乎的聪明人。把这些人带走,系统就会崩溃。我们开始看到崩溃。最近一周左右发生的各种故障的一些例子:Microsoft 365、空中交通管制、联合航空公司的系统、美国国家安全局的网络、许多主要银行、苹果的系统等等。我们被告知这些失败和问题并不相关。它们不是网络攻击的结果。它们不是生成式人工智能的错。我想这取决于你如何看待它。我没有关于正在发生的事情的内部信息,但我处理复杂系统的经验告诉我,所有这些破坏都有一个共同的线索:没有足够的聪明人在乎。那么他们去了哪里呢?资本主义对那些不在乎的聪明人(或一般人……但我离题了)从来都不是特别友善。不管多么不情愿,资本主义确实认识到,需要那些不在乎的聪明人来建立和维护服务于资本主义目标的复杂系统。因此,这些人因其必要性以及在许多情况下的稀有性而被容纳并纳入该体系。不过现在,生成式人工智能已经出现了。对于负责管理的人(领导层和管理层)来说,他们似乎可以从机器中获得相同或更好的价值(甚至更多的产出!)。这台机器更便宜,工作时间更长,不需要病假或休假,不要求任何福利,而且从不反对一个坏主意。那些不做实际工作的人——那些不在第一线的人——很难区分由驱动力和决心所支撑的有缺陷的系统,而聪明人则不在乎生成式人工智能提供的决心。对他们来说,这一切都只是输出:你可以阅读的单词、可以运行的代码以及对他们来说看起来不错的像素。对他们来说都是一样的,那么为什么它来自哪里很重要呢?这很重要,因为生成式人工智能并不聪明,而且它根本不在乎。看似智能的东西其实是一种错觉,它是由从公共资源中提取的大量数据支撑的,这些数据的权重将输出推向普遍理想的形状。看似关心、关心和关注的东西其实只是生成式人工智能在做它的设计任务:告诉你你想听的话。为法学硕士提供动力的数学和逻辑就像物理定律一样冷酷、无情、冷漠。聪明人会注意到事情。他们将点连接起来。当事情感觉不对时,他们会注意到。他们知道事情什么时候会脱轨,也知道如何让事情回到正轨。他们知道如何处理边缘情况。他们知道如何手动处理独特的情况。他们知道什么是正确的事情,也知道何时需要付出额外的努力或时间来实现某件事。生成式人工智能在这些领域还远远不够,但它是将复杂系统粘合在一起的粘合剂。更多的提示和更多的输出并不能替代这一点。然而,资本主义领导层很难将这些内容内化。如果能够取代那些不在乎生成式人工智能的聪明人,对他们来说将是一种解脱,一种负担的减轻。获胜会容易得多
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱