Dario访谈首曝：Mythos被称为「超级武器」

新智元报道 【新智元导读】 在这场69分钟完整访谈里，Dario Amodei 说人类真正面对的不是某个突然降临的奇点，而是一条已经开始垂直起飞的指数曲线。 一场长达69分钟的访谈，把AI圈最有权势的人之一，彻底摊到了台面上。 17号，Bloomberg《The Circuit》主持人Emily Chang，放出了与Anthropic CEO Dario Amodei的完整版对话，足足1小时10分钟。 没有公关话术，没有回避。 这一次，他全说了。 Mythos 那个太危险、不敢发布的神话 访谈里最让人脊背发凉的部分，是一个名字： Mythos 。 Emily Chang问Dario：你说Mythos太强了，不能向公众发布。它最让你震惊的是什么？ Dario的回答，每一个字都值得慢读—— 「最让我震惊的，是它发现漏洞、并且把漏洞变成实际可利用攻击的能力，出现了一个巨大的跃升。不是线性增长，是断崖式跃升。而且几乎不需要人类提示。」 请注意这句话的分量。 上一代模型只能「找到漏洞」，而Mythos能做的远不止于此—— 它能自主走完一整条网络攻击杀伤链（cyber kill chain）：扫描、发现、利用、武器化，一条龙，全自动。 这不是「辅助黑客」，这是「AI自己变成了黑客」。 更让人头皮发麻的细节来自那些拿到内测的公司。 Dario说，一些安全公司测完之后，直接打电话过来说：「这是超级武器。你应该要持枪证才能用这东西。求你了，别发布。」 Palo Alto Networks的首席产品官更直白：Mythos在不到三周内完成了相当于 一整年 渗透测试 的工作量。它不仅能找到漏洞，还能把中低危漏洞串成一条攻击链，直接打穿整个系统。 面对「这只是公关秀」的质疑时，Dario反击得很硬—— 「我们因为不发布Mythos，商业上已经遭受了巨大损失。它在Anthropic内部极大地加速了研究和下一代模型的生产。如果放出去，外部世界也会获得同样的加速。这怎么可能是营销？」 有人在Twitter上说，用开源模型也能复现Mythos的发现。 Dario反应很激动：「有人把Mythos找到的那行代码指给开源模型看，然后说『看，它也能找到同样的问题』。这叫什么？这叫我在大海里捞出了针，你拿着针说『你看，别人也能捡起来』。」 Dario在访谈中说，每天都有很多人打电话管他要Mythos。 有国家打电话要，也有美国政府和我的安全团队说：等一下，有风险。 递归自改进：一条不断加速的曲线 AI圈有一个被反复追问的终极问题：AI什么时候开始自我改进？然后改进后的AI再改进自己？那个「奇点」到底多远？ Dario的回答出人意料—— 它不是一个时间点。它是一个连续的过程。我们已经在其中了。 他给了一组数字：AI已经能为下一代AI建议架构了。一年前，AI带来的全要素生产率提升大约10%-15%。现在已经到20%-30%。还在翻倍。 「我们就在指数曲线上。」 没有某一天早上AI突然「觉醒」然后失控。 有的只是一条不断加速的曲线—— 在这条曲线的每一个点上，你都要判断：是不是该踩刹车了？是不是该加更多防护了？ 这才是Dario最核心的框架： 平滑的指数（smooth exponential） 。 不是奥本海默，是西拉德 Emily Chang问了一个很直接的问题：「你最爱的书是《原子弹的制造》。你觉得自己像奥本海默吗？」 Dario说，不。 他最认同的人是利奥·西拉德（Leo Szilard） ——1933年，在伦敦街头过马路时，第一个在脑子里想出核链式反应可能性的人。 后来，正是西拉德起草了那封改变历史的信，让爱因斯坦签名后寄给了罗斯福总统，直接催生了曼哈顿计划。 但西拉德也是第一批站出来反对实际使用原子弹的人。 这个选择本身就意味深长。 奥本海默是站在聚光灯中心的人，是「原子弹之父」。而西拉德是最早看到连锁反应的人—— 他看到了可能性，也最早看到了危险。 Dario的原话更狠：「我们不可能靠一个大人物来解决这件事。这里有太多强大的利益方。唯一能让所有人都安全的方式，是到处都有制衡和平衡。 在某种意义上，我把奥本海默看作一个失败案例——一个不应该发生的事情。 」 这句话的潜台词几乎呼之欲出：这个时代需要的不是「AI之父」式的英雄人物，而是能在失控之前拉住缰绳的制度设计。 文明崩塌概率25% 有了「核弹」的类比打底，接下来这个数字就显得格外沉重。 Dario曾在去年的Axios峰会上说过： 文明崩塌的概率，大约10%-25%。 这次Bloomberg访谈里，Emily Chang直接追问：「10%到25%，这个数字可不小。有没有可能，是Anthropic自己造出来的东西，导致了崩塌？」 Dario没回避：我当然希望不是。但这是个概率。 他用了一个航空公司的比喻，极其精准—— 「你可以造一家比同行安全10倍的航空公司。但你没法保证飞机永不坠毁。 如果有人告诉你这架飞机有25%的坠机概率，你不会上那架飞机。25%太高了。我们要做的，就是把它降到低得多。 」 一半白领工作可能消失 这是Dario被骂得最惨的一句话，也是他这次访谈反击最狠的一段。 一年前他说过：AI可能在1到5年内，消灭一半的入门级白领工作。 Dario表示，他的担忧现在也没有变。 但他拒绝被贴上「末日先知」的标签。 「我从来没说过末日将至。我说的是——这是我们应该预见、应该担忧、并且必须积极应对的事。」 Dario称其最痛恨社交媒体。 一年前的完整论述，被剪成三秒钟的「doom is coming」到处疯传，完全没有上下文。 「说我在廉价营销的人，」Dario毫不客气地回怼，「这种说法本身才是廉价营销，是懒惰，是不愿认真对待严肃的智力工作。这就是硅谷的病——被三秒钟的社交媒体绑架了，所有人只会对着断章取义的切片做出反应。」 Dario透露在Anthropic内部，AI已经写了几乎全部代码，工程师反而更高效。 可苗头也出现了——有些岗位，AI做更好。 Dario认为出路或许在物理世界、在以人为本的工作、由人来引导AI。 但他也承认：没人保证。 尾声 访谈结尾，Dario难得露出轻松一面。 Emily问：当CEO最让你意外的是什么？ 他笑了：「是得经常化妆。」 69分钟的访谈，拆掉了一层又一层。你可以不同意他的每一个判断，但你很难否认一件事——这个人在用一种极其罕见的坦率，面对这项技术最深处的矛盾： 他在造可能改变文明的东西。他也比任何人都清楚，这东西可能把文明拆了。 指数曲线的另一边，到底是什么？ 没人知道。 参考资料： https://www.youtube.com/watch?v=x2VHFgyawPE 编辑：所罗门 秒追ASI ⭐ 点赞、转发、在看一键三连 ⭐ 点亮星标，锁定新智元极速推送！ 文章原文