基于聊天的大型语言模型复制了通灵者的骗局机制

在过去一年左右的时间里，我大部分时间都花在研究软件业务中语言和扩散模型的使用。这项研究中的一个令我困惑的问题是，许多人相信语言模型，或者特别是基于聊天的语言模型，是智能的。但大型语言模型 (LLM) 中似乎没有任何固有机制可以实现这一点，如果真的存在，那将是完全无法解释的。法学硕士不是大脑，也没有有意义地分享动物或人用来推理或思考的任何机制。 LLM 是语言标记的数学模型。你给了一篇法学硕士文本，它会给你一个数学上合理的答案。没有理由相信它会思考或推理——事实上，迄今为止每一位人工智能研究人员和供应商都一再强调这些模型不会思考。对于这种效应有两种可能的解释：科技行业在初始阶段意外地发明了一种全新的思维，它基于完全未知的原理，使用生物世界中没有的完全未知的过程。智力错觉存在于用户的头脑中，而不是法学硕士本身。许多人工智能批评家，包括我自己，都坚定地站在第二阵营。这就是为什么我将我的关于生成“人工智能”风险的书命名为“智能错觉”。在过去的几个月里，我一直在研究一个我认为可以解释这种智力错觉机制的想法。我现在相信这些法学硕士的智力和推理能力比我以前想象的还要少。对我来说，许多提议的用例现在看起来像是边缘欺诈的伪科学。机械通灵者的兴起智力幻象似乎与通灵者的骗局基于相同的机制，通常称为冷读。它看起来像是相同基本策略的意外自动化。通过使用验证语句，例如使用福勒效应的句子，聊天机器人和通灵者都给人一种能够做出极其具体的答案的印象，但这些答案实际上在统计上是通用的。通灵者使用这些陈述给人一种能够读懂思想并听到死者秘密的印象。聊天机器人给人的印象是一种专门与您和您的工作相关的智能，但这种印象只不过是一种统计技巧。当我回顾人们对这些“人工智能”推理的一些陈述时，这个想法第一次出现在我的脑海中。我首先认为这些只是科技泡沫热情的典型案例，但事实并非如此，“人工智能”吸引了不同的人群，“人工智能”泡沫的信徒听起来与之前泡沫的信徒非常不同。 —“这是真的。有点令人担忧，但这是真的。” —“确实有一些东西。不知道该怎么想，但我自己经历过。” —“你需要对各种可能性保持开放的心态。一旦你这样做了，你就会发现它有其用处。”就在那时，我想起了 Terence Eden 的一篇关于聊天机器人回复中 Forer 语句盛行的博客文章。我以前听说过这个。这种敬畏、怀疑和恐惧的特殊混合听起来就像一个心理骗局艺术家——通灵者——的受害者的话。通灵骗术是一种久经考验的欺骗人们的方法，经过了多年的磨练。我下面描述的是一种变体。有很多变化，但核心机制保持不变。通灵者的缺点 1. 观众自行选择 大多数人对通灵之类的东西不感兴趣，所以最初的观众群体已经普遍比一般人更加开放，也不太挑剔。 2. 场景已定 最初的观众已准备就绪。灯光变暗。心灵被炒作了。工作人员通过社交媒体或对话研究受众。观众的人口统计数据被记录下来。 3. 缩小受众范围 通灵者衡量他们掌握的观众信息，指向一排或一簇，并做出听起来很具体但实际上在统计上可能适合受众的声明。通常至少有一个人做出反应。如果没有，通灵者会暗示这个秘密对于“真实”的人来说太尴尬了，无法站出来，提醒人们他们可以进行私人阅读，然后再试一次。 4. 标记已被测试 该反应表明标记相信它们已被“读取”。这又引发了一系列问题，这些问题听起来又非常具体，但实际上在统计上是通用的。如果标记没有响应，通灵者会宣布初始读取成功并重试。 5. 主观验证循环 骗局是认真开始的。通灵者提出了一系列问题，这些问题听起来都非常针对目标，但实际上只是统计上可能的猜测，基于他们的人口统计数据和先前的答案，以特定的措辞，