Anthropic首席执行官表示，人工智能的强烈反对“从根本上来说是一场信任危机”

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 最近反驳了这样的观点，即他一直在描绘人工智能及其如何塑造未来的过于悲观的图景。 Amodei 的言论是对投资者 Gavin Baker 的回应，后者在 All-In 播客和 X 上均表示，Amodei 对人工智能危险的警告助长了美国的强烈抵制，尤其是针对数据中心的抵制。贝克写道，声称阿莫迪在人工智能监管方面“输了”（Anthropic 主张制定一些法规，包括一项对大型人工智能公司施加透明度要求的加州法案），并考虑到“他即将成为世界上最重要的公司之一的首席执行官”，“我恭敬地认为他应该努力成为自己行业的更积极的倡导者。”贝克并不是唯一一个认为人工智能怀疑论甚至政府镇压是对一些人工智能高管的可怕警告的自然反应的人。但在一系列帖子中，阿莫迪不同意他的“信息过于负面”的观点。相反，他说他的写作“在风险和收益之间保持了平衡”，他写了《爱的机器》这篇文章，因为他“认为人工智能行业没有描绘出一幅足够鼓舞人心的图景，说明这项技术如何从根本上改变世界，让世界变得更美好。”尽管如此，阿莫迪承认“公众对人工智能持负面看法”，他也认为“这是一个大问题”。他不同意的观点是，这种消极情绪“主要是由阿莫迪”或任何其他警告人工智能风险的人工智能领导者造成的。 “我认为这从根本上来说是一场信任危机，”阿莫代说。 “我认为普通人不信任公司、政府或科技行业，总是怀疑我们正在想出一些新方法来搞砸他们。”事实上，“信任”这个词经常出现在有关 OpenAI 首席执行官 Sam Altman 的头条新闻中，而且对于 Amodei 等其他人工智能首席执行官来说显然也是一个问题。然而，按照阿莫迪的说法，这是一场酝酿了几十年的危机，人工智能的强烈反对“只是它的最新版本”。 “我认为到目前为止，对包括 Anthropic 在内的人工智能公司最准确的批评是，我们尚未兑现造福世界的重大承诺，”Amodei 说。 “这完全是我们的责任，我认为这是你应该提出的批评，而不是所有关于消息传递和营销的东西。”换句话说，他说承诺人工智能将治愈癌症“与其说是鼓舞人心，不如说是陈词滥调”。真正能改变人们对人工智能看法的是“真正治愈癌症”。至于监管，阿莫迪认为，贝克描绘了“一个错误的选择”：是在没有监管的情况下广泛传播人工智能，还是通过监管将技术集中在少数公司手中。 “我知道硅谷有一种速记法，即监管=监管捕获=权力集中，但我一直发现这是一幅过于简单化的世界图景，”阿莫迪说。 “这个泡沫之外的许多人认为监管是限制企业权力并使普通民众受益的东西。”阿莫代补充说，他“也不一定同意这种观点”，但他表示，这就是“为什么 Anthropic 总是非常谨慎地提出政策建议。”他说：“我们非常努力地提出对前沿人工智能公司不利（放慢速度）的建议，同时对较小的竞争对手有利。”为什么要提出这些建议？阿莫迪表示，在他看来，“人工智能在结构上是一种倾向于集中权力的技术”，“开放权重确实在这方面对一些人有所帮助，但远不是一个足够的解决方案，因为它们只是将注意力转移到了拥有最多计算和芯片的人身上。” “相比之下，我认为正确的‘道路规则’可以同时（a）解决人工智能的网络/生物/联盟风险，（b）从制度上限制前沿人工智能公司的力量，（c）为开放权重模型留出空间，同时解决它们带来的具体风险，”他说。这篇文章已更新，包含更多来自 Amodei 帖子的引用，包括有关开放重量的引用。