Dario “破防小作文”超千万人围观！LeCun 开炮：信任危机是因为你搞权力集中

Dario Amodei一直是 AI 行业里一个颇为特殊的存在。 如果说硅谷有一位AI掌门人，长期以来最不吝于提醒公众“AI可能有多危险”，Dario 大概算其中之一。 作为Anthropic联合创始人兼CEO，他过去几年反复谈论 AI 带来的生物安全、网络攻击、就业冲击以及失控风险，也一直主张前沿模型需要更严格的安全评估和外部约束。某种程度上，Dario甚至已经成为AI“风险派”的代表人物之一。 但美国当地时间 8月16日，他罕见地在X 上发了一篇“小作文”，把话题转向了一个更棘手的问题：为什么越来越多人开始不相信AI了？他给出的答案是：信任危机。如今这篇帖子在x上浏览量已经突破1000万。 为何越来越多人不相信AI？ 与以往的回应有所不同，这一次，他没有把问题归咎于媒体，也没有把矛头指向那些批评 AI 的人，更没有建议 Anthropic 做一轮更加积极的品牌宣传。恰恰相反，他承认：AI公司自己还没有兑现那些曾经许下的巨大承诺。 Dario 原帖全文翻译如下： 感谢你，Gavin，和我进行了一次特别有深度的交流。我平时并不会在社交媒体上花太多时间，但我想在这里参与讨论，因为这场交流确实触及了一个重要对话的核心。首先说监管。我认为，“要么通过监管把权力集中到少数被选中的公司和政治人物手中，要么把它广泛分散出去”是一种错误的二选一。我知道，在某种硅谷式的简化表达中，监管 = 监管俘获 = 权力集中，但我一直认为，这种看法过于简单化了现实世界。硅谷这个圈子之外的很多人，会把监管理解为一种限制企业权力、让普通人受益的机制。我也不一定完全认同这种看法；在我看来，问题很复杂，关键取决于所谓的“监管”具体包含什么。但尤其是那些持有“监管 = 监管俘获 = 权力集中”这一框架的人，往往低估了客观、公平的制度化程序所具有的去中心化力量。一个比较粗略的类比是，正式的司法体系有时可能给人一种刻板、精英主义的感觉，但与另一种选择——群体私刑——相比，它在保护弱势个体权利方面要有效得多。在最理想的情况下，制度可以让权力依附于理念和规则，而不是依附于具体的人，从而实现权力的去中心化。这也是为什么Anthropic一直非常谨慎地制定我们的政策建议。我们非常努力地提出这样一些政策：它们会让前沿AI公司处于不利地位（放慢它们的发展速度），同时让规模更小的竞争者获得优势。加州的SB 53法案（我们支持该法案），甚至那个饱受批评的SB 1047法案（我们对它持保留态度），都完全将收入或模型训练成本低于某一门槛的公司排除在监管覆盖范围之外。（SB 53的门槛是5亿美元，SB 1047的门槛更低，但我们曾对此提出反对。）最近，我们在CAISI以及向白宫倡议的测试机制中，也主张对前沿模型实施比非前沿模型更加严格的测试——这种设计会让挑战者获得相对优势。同样，“Pacing the Frontier”（控制前沿发展速度）这封公开信所设想的方案——至少按照Anthropic所偏好的实施方式——是放慢最顶尖模型的发展速度，同时不去限制那些正在追赶的公司。这会损害前沿AI实验室的商业利益，却有利于挑战者，包括开放权重模型！总体而言，我的看法是，从结构上来说，AI是一种天然倾向于集中权力的技术，其原因与监管没有关系（更多是因为Scaling Law，也就是规模扩展定律所带来的极端影响）。开放权重确实能够在一定程度上缓解这一问题，但远远不是充分的解决方案，因为它只是把这种集中稍微转移到了那些拥有最多算力和芯片的人手中——这些人基本上就是前沿AI实验室，再加上可能的一些硬件供应商。相比之下，我认为，正确的“游戏规则”可以同时做到三件事：（a）应对AI带来的网络安全、生物安全以及对齐风险；（b）通过制度约束前沿AI公司的权力；以及（c）为开放权重模型留下发展空间，同时应对开放权重模型自身带来的具体风险。顺便说一句，我并不认为过去几个月发生的事情“没有实现我所偏好的监管路径”。据报道，特朗普政府目前正在采取的方式——对前沿模型进行部署前测试，同时当开放权重模型逐渐接近前沿水平时，也对其进行测试——是我非常支持的方案。当然，我仍然需要看到具体细节，才能最终确认这一点。我同样支持Demis Hassabis关于建立一个类似FINRA这样的机构的想法。第二，说说AI相关的舆论表达。我不同意“我的言论过度负面”这一说法。事实上，我对AI风险和收益的讨论基本是平衡的：我分别写过一篇主要讨论风险和一篇主要讨论收益的长文。即使在谈论风险的采访中，我也会经常强调AI令人难以置信的潜在收益，并提出应对风险的可能方案。（只是我的采访被剪成短视频发到社交媒体后，往往会显得格外负面，因为这样的内容更容易获得点击。）事实上，我之所以写《Machines of Loving Grace》，就是因为我觉得AI行业没有充分描绘这项技术如何能够让世界变得更好的、足够令人振奋的图景。文章大部分篇幅都在回应人们对AI在健康和生物学领域潜力的怀疑，并解释为什么我认为，未来5到10年内，人类实际上有可能治愈绝大多数疾病——这听起来可能让普通人难以置信，说实话，生物学家可能也会觉得疯狂（我以前就是生物学家）。如果你读过我最近的文章《Policy on the AI Exponential》，就会看到我还提出了具体建议，希望简化FDA审批流程，避免未来大量由AI加速研发的药物被监管流程拖慢。我对这件事有很强的紧迫感：几年前，我的父亲因丙型肝炎去世，而就在那几年之后，直接作用抗病毒药物索非布韦问世。这类药物可以治愈约95%的患者，而且很可能也能治好我的父亲。我确实同意，公众目前对AI持负面看法，而且这是一个严重的问题。但我不认为这主要是因为我或其他AI行业领导者不断提醒大家AI的风险。我认为，这从根本上说是一场信任危机。普通人不信任企业、政府和科技行业，总觉得我们又在策划某种新的方式来坑害他们。这种不信任的根源可以追溯到几十年前，而AI只是这一问题最新的一种表现形式。我不认为，一场包装得光鲜亮丽、强调积极面的营销活动——有人曾建议Anthropic这么做——能够重新赢得这种信任。到了现在，告诉人们“AI将治愈癌症”，与其说令人振奋，不如说已经变成了陈词滥调，而且大多数人会认为这是一种欺骗。真正有效的方法是：真的把癌症治好。我认为，对包括Anthropic在内的AI公司来说，迄今为止最准确的批评，是我们还没有兑现那些关于“让世界变得更好”的宏大承诺。这完全是我们的责任。我认为，这才是你应该批评我们的地方，而不是纠结于传播方式和营销策略。不过，我们正在尽最大努力解决这个问题。Anthropic正在迅速加大对生物学和医学领域的投入，希望未来几年取得令人惊叹的成果，并在未来几个月看到一些早期迹象。当我们真正取得有意义的成果后，全世界都会听到，而且我们会尽可能大声地告诉所有人——这一点我向你保证。但在那之前，我不想做出空洞的承诺。与此同时，我认为自己有责任诚实地谈论AI真实存在的风险，以及应该如何应对这些风险。从事情本身来看，诚实是正确的做法；而从公众信誉和信任的角度来看，诚实至少不会比刻意忽视风险、或者用其他话题转移公众注意力更糟。事实上，考虑到人们本能地意识到这些风险是真实存在的，诚实面对风险反而