由于 RSI 担忧，Anthropic 发布了新的神话和寓言模型

Anthropic released new versions of its most advanced models on Monday, with the launch of Mythos 5.2 and Fable 5.2.该公司表示，新模型“显示出编码、推理和视觉等领域的改进”，并且与用户的沟通更加清晰。值得注意的是，Anthropic 将 Fable 的成本从每百万输入代币 10 美元降低到 8 美元。因此，《神鬼寓言 5.2》现在比其主要竞争对手 GPT-6 Astra 更便宜。 Anthropic 表示，新版本的《神鬼寓言》在各个工作级别上返回响应的速度将提高 30%。以双倍的价格可以获得更快的推理服务。 《神鬼寓言 5.2》还通过企业前沿保障系统兼容零数据保留 (ZDR) 政策，这是许多企业客户长期以来的一个症结所在。这是自评估小组 METR 发布第三方报告以来 Anthropic 发布的第一个模型，该报告表明该实验室可能正在接近递归自我改进（RSI）——或者人工智能模型独立进行模型训练的能力。 METR 报告发现，尽管仍然存在许多不确定性，但内部模型正在将 Anthropic 的人工智能进展速度加快了大约 2 倍。尽管如此，Anthropic 的发布指出了准确测试模型功能方面持续存在的重大挑战。 “《克劳德神话 5.2》和《神鬼寓言 5.2》都表示怀疑，它们比我们最近的任何模型都更频繁地受到评估，这对我们评估它们在现实世界中的行为方式的能力提出了挑战。随着这些设置的扩展和未来模型功能的增强，我们预计这一挑战将会加剧。” Anthropic 坚称新版本的 Mythos 不具备秘密攻击其用户的能力，这一结论在 Mythos 5.2 的系统卡中有进一步详细说明。 “在我们的多项评估中，Claude Mythos 5.2 显示出比之前的 Claude 模型更强的隐蔽能力，特别是当其推理隐藏在监视器之外时，”系统卡上写道。 “话虽如此，我们认为，我们新的秘密评估的绝对表现水平较低，支持了依赖于在高风险情况下检测有害行为的主张。” 《神鬼寓言 5.2》已经向部分预发布者开放了一段时间，Anthropic 表示该模型已经“解决了理论物理学中的两个开放问题，形式化了费马大定理，并支持了许多其他研究项目。”同样在周一，人工智能初创公司 Physical Superintelligence 宣布了 Aaronson-Ambainis 猜想的新证明，这是为量子计算设定理论极限的关键一步。值得注意的是，该实验室表示，这一结果是通过在 PSI 自己的系统中运行“非公开的人择模型”来实现的。 Anthropic 没有证实或否认《神鬼寓言 5.2》是否就是所讨论的模型。