人工智能最激烈的批评者之一表示，所有关于末日的言论都是“为了分散我们的注意力”

您如何理解那位 Anthropic 工程师的辞职，他说这些公司鲁莽，拿我们的生命做赌注？一方面，你似乎同意这些公司是鲁莽的；另一方面，你明确表示你认为“人工智能将导致文明的终结”的争论是毫无意义的。在我的整个职业生涯中，我一直试图从不同的角度说同样的事情。为此，我们在 2021 年撰写了随机鹦鹉论文。 OpenAI 声称 GPT-2 功能太强大，无法发布。真是太炒作了。我们说，你问了错误的问题。我在书中写道：“桥梁会决定倒塌吗？”整个“哦，不，我们的模型出了问题”……当一座桥倒塌时，你不会分析这座桥是否符合道德或有感知能力，也不会分析它决定倒塌的原因。你问，是谁把这座桥建得如此脆弱？您必须获得一些许可证。应该有测试。当你询问桥梁自行倒塌的情况时，你已经失去了线索。与此同时，真正存在的问题是人工智能为自主武器、杀人机器提供动力，这些武器实际上正在战争中使用。气候灾难是真实存在的，这些科技公司正在建设的东西可能会加剧气候灾难。老板们正在利用人工智能作为解雇讨厌员工的借口。在我看来，这种机器神的叙述是为了分散我们对这些的注意力。这个行业已经成为邪教的混合体，真正信徒的混合体，就像一个传教士说末日即将到来。奇点已经出现几十年了。一步步带我了解“人工智能灭绝”如果是真的的话，会如何发生。我想起这篇文章，有人说，愤怒的 GPU 会出现在我家还是其他什么地方？我真的无法想象，但很多场景似乎是你要求机器针对其他任务进行优化，然后机器决定实现该目标的方法是杀死世界上的每个人。人工智能会催眠你，让你不拔掉它吗？我不知道！其他人说，人工智能可以感染你的机器。是的，我们已经有了恶意软件，那么……洪水和火灾怎么办？全球食品供应链发生重大中断怎么办？我们面临着真正的威胁，比如人们能够制造和使用化学武器。 [注：在我们交谈后不久，Anthropic 透露，它已经阻止了科学家制造生物武器的几次潜在恶意尝试。 ] 还有另一个因素，你是如此的特权，以至于你无法想象其他事情会伤害你。就像如果你不担心警察的暴行、洪水或战争——这些实际上可以杀死你的事情——那么你就可以痴迷于机器之神。为什么我们要花这么多时间讨论人们自 40 年代和 50 年代以来一直在谈论的人工智能概念？我有时会玩这个游戏，我会向人们朗读我在研究中收集到的有关人工智能的引言，然后我会问，这个说法是在哪十年提出的？有时人们会做对，但很多时候却做不到，因为听起来都一样。这是 Steven Levy 和 Lauren Goode 的 Backchannel 时事通讯的一个版本。请在此处阅读之前的时事通讯。