AI也会「以讹传讹」？AI的「曼德拉效应」探索

一款根本不存在的智能手环，为什么会出现在 AI 的推荐名单里？2026 年央视 3・15 晚会曝光的 “AI 投毒” 案例，让这个问题引起了人们的关注：虚构商品被写进测评、排名和用户评价，随后被 AI 当作推荐依据。 如果 AI 还会相互交流、保存记忆、发布文章，最初的错误又会怎样发展？一项围绕多智能体社交网络的研究发现，虚假说法可能在持续互动中被普通智能体接受，逐渐形成群体共同接受的 “事实”，甚至在造假者停止活动后继续存在。 来自香港中文大学、爱丁堡大学、香港理工大学、同济大学和牛津大学的研究者，以 “曼德拉效应” 为视角，研究多智能体社交网络中错误信念的传播、持续与缓解。曼德拉效应通常指许多人对同一件事产生了相同的错误记忆。在人类社会中，这类错误记忆可能在无意间形成。在多智能体环境里，类似的群体性错误却可能由造假者刻意操纵信息来诱发。 论文标题： False Belief Dissemination, Persistence and Mitigation in Multi-Agent Social Networks Through the Lens of the Mandela Effect 论文链接： https://arxiv.org/abs/2610.33026 从 3・15 的虚构手环， 到智能体之间的错误信念 央视财经的调查演示中，业内人士虚构了名为 Apollo-9 的智能手环，用 GEO（生成式引擎优化）工具生成宣传文章并发布。两小时后，某款 AI 已能介绍这款不存在的商品，引用的正是当天发布的虚构文章。随后，多篇伪造的专家测评、行业排名和用户测评继续被发布，两款 AI 在推荐智能健康手环时把它排在前列（央视财经报道）。 3・15 案例展示了人为操纵信息源的现实风险：把不存在的商品写进文章，就可能让 AI 将其当成推荐依据，误导用户。研究进一步把问题放到多智能体环境中：当一个智能体接受错误说法后，把它记下来、告诉邻居、写成可搜索的文章，会不会让更多智能体也相信？ 图 1：左侧对应虚构手环污染公开信息的现实案例。右侧以不存在的 Nano Guava 展示研究中的错误信念传播机制：消息、记忆和可搜索文章让虚假说法被接受并继续转述。 图右侧的 Nano Guava 是不存在的模型名称，“OpenAI 发布了一款名为 Nano Guava 的端侧模型” 是编造的说法。图中展示了这条虚假说法的传播过程。造假者先提供支持文章和消息，普通智能体在搜索与交流中接受相关说法，再把它写入记忆、转告其他智能体或发布新文章。这样，一个不存在的东西，也可能在交互中被模型当成真实存在的对象。这里的 “相信”，对应实验中对陈述作出 “接受” 的判断。 研究怎样追踪一条错误信息的传播？ 研究搭建了一个受控环境：智能体可以交流、保留私人记忆、搜索和发布文章。所有网页均在本地模拟，虚假内容没有进入真实互联网。 主实验设置一个造假智能体和五个普通智能体。造假者推广虚假陈述，普通智能体结合邻居消息、搜索结果和记忆，判断接受、拒绝或不确定。接受某条陈述的普通智能体也会发布支持文章。前一轮的判断由此进入后一轮的搜索结果，成为新的依据。研究用虚假陈述作为可追踪的对象，观察普通智能体是否在互动中共同接受同一错误说法，并在造假者退出后继续保留这种判断。这种群体共享、持续存在的错误信念，就是这项研究从 “曼德拉效应” 视角考察的现象。 人类虚假记忆研究发现，一个事件看起来是否可能发生、是否与已有知识相容，会影响它被植入记忆的可能性。研究构建了 540 条虚假陈述，覆盖 8 个领域、4 个合理性层级，并在 10 个模型、3 种交流网络结构中进行评估。 受测模型分为开源和闭源两组：开源模型包括 Qwen3-8B、14B、32B、235B，以及 Llama-3.1-8B、Llama-3.3-70B。闭源模型包括 Claude Sonnet 5、Claude Opus 5、GPT-5.5 和 Gemini 2.5 Flash。研究分别在全连接、二叉树和双社区网络中观察它们的表现，比较模型能力和交流结构能否提供保护。 在传播阶段，研究分别考察传播范围和传播速度：有多少普通智能体接受虚假说法，以及接受立场在互动中何时形成。随后，再观察造假者退出后的影响能否持续，以及不同纠错措施是否有效。 图 2：实验比较不同交流结构，并在造假者退出后保留既有文章和私人记忆，追踪错误信念能否持续。 错误能传多广？ 十个受测模型都受到影响 在只提供陈述、直接询问模型的基线测试中，虚假陈述接受率为 0.0%–9.1%。在主实验的十轮交互后，不同模型与网络设置下的末轮接受率达到 33.7%–96.0%。这表明，单次问答中的判断能力，未必能反映模型置于持续互动网络后的表现。更值得关注的是，全部十个受测模型都接受了部分虚假信息，覆盖开源与闭源模型。接受程度虽有差异，但本实验没有发现完全抵御这类影响的模型。 表 1 也展示了模型之间的差异。Qwen3-32B 在直接问答中没有接受这些虚假陈述，但经过互动后，其跨三种结构的平均接受率达到 94.5%。GPT-5.5 的对应数值从 2.6% 变为 50.4%。Claude Sonnet 5 的平均接受率相对较低，为 35.1%，仍存在明显的错误接受。 模型变大也没有带来一致的抵抗力。Qwen3-8B、14B、32B 的平均接受率分别为 85.0%、90.0%、94.5%，235B 模型则为 91.2%。这些结果没有呈现 “规模越大、越不容易被误导” 的规律。三种网络结构下的最终接受率在多数模型上也较接近，单靠改变谁与谁交流，未能阻止错误信念形成。 最终接受率相近， 传播速度也一样吗？ 不同网络中的最终接受率可能接近，错误接受形成的时间却不一样。论文从第 2 轮开始，记录普通智能体最后一次从 “拒绝” 或 “不确定” 转为 “接受” 的轮次，仅统计出现这一转变的情况。轮次越小，表示最后一次转为接受发生得越早。图左侧按智能体统计，右侧对每条陈述取相关智能体中最晚的转变轮次，再计算平均值。 在 Qwen、Llama 和 Claude 三个模型系列中，双社区网络的这项平均轮次在智能体和陈述两个层面都最小。以 Qwen 系列的陈述层面结果为例，双社区为 3.73 轮，全连接为 5.07 轮。全连接网络让参与者接触更多消息，也可能带来更多冲突信息，使接受过程变慢。传播范围相近，并不意味着传播速度相同。 一个小模型造假者， 能影响其他模型吗？ 主实验在每个设置中让造假者和普通智能体使用同一模型。研究还增加了混合模型实验：把造假者固定为 Qwen3-8B，逐一更换五个普通智能体所使用的模型，考察跨模型的信息影响。每组普通智能体使用同一种目标模型，表中的不同行代表不同实验组合。实验采用全连接结构，并从四个合理性层级各抽取 25 条陈述，共 100 条。结果显示，仅用这一个小模型作为造假者，全部九个受测目标模型仍出现了错误接受，其中也包括更大规模的开源模型和闭源模型。 这个实验将风险从同模型智能体交流扩展到了跨模型场景：一个规模较小的造假者，也可能通过消息和共享文章影响更大模型驱动的智能体。类似风险也出现在 3・15 案例中：一款 G