《神鬼寓言5》复活准备好了？人类联创：我们彻底低估了Scaling

新智元报道 【新智元导读】 Fable 5回来了？Claude安卓版的「模型选择器」中，消失一周的Fable 5意外现身。 Claude Fable 5，疑似活过来了！ 今天一早，AI大佬Chetaslua意外发现，那个神秘消失了一周的名字—— Fable 5，又悄无声息地躺在了安卓端App的「模型选择器」列表里。 一时间，开发者们沸腾了。有人表示，这是一个好兆头，暗示Fable 5就要回归了。 Fable 5会不会王者归航，悬念还吊着。 而就在这场风波的同一周，那个最该回答「Fable什么时候回来」的人，恰好坐进了播客间。 Anhtropic联创Jack Clark直言，「这个行业只有油门，没有刹车，我们正争分夺秒地造刹车」。 Fable 5，快要回归了 如今，所有人的目光都聚焦在了，Fable 5的回归疑云上。 上周六，Anthropic一纸通告，直接在全球范围内强行下线了Fable 5。 整整一周过去，全网都在翘首以盼。 没想到，就在今天「转机」出现了。 在安卓端App的编程功能区里，那个「人间蒸发」的神秘模型Fable，重新出现在了模型选择器中。 最耐人寻味的，是系统底层「错误提示」的微妙变化。 两天前，系统会冷冰冰地甩出一句「模型不可用」； 而现在，报错已经变成了「服务器暂时限制请求」。 发现这一变化的开发者Yashas直接给出了操作方法： 在对话框敲 /model claude-fable-5 ，就能复现这个「复活幽灵」。 目前在Polymarket上，押注「Fable 5将在7月1日前回归」的胜率，已经一路狂飙到了79%！ 众所周知，Fable 5被迫下线，是因为「安全」问题的担忧。 这恰恰是另一个房间里，Anthropic联创反复念叨的那个词，第一次落到了地上——刹车。 Anthropic联创： 我们低估了「苦涩的教训」 一天前，联创Jack Clark，和首席经济学家Peter McCrory，一起坐进了彭博的Odd Lots播客。 在这场对谈中，Jack极其坦诚地剖析了AI的进化速度，真相令人倒吸一口凉气。 过去这些年，我一遍又一遍地被一个东西暴击，计算机科学家Richard Sutton说的那个「 苦涩的教训 」。 作为曾经自诩的「技术悲观主义者」，Jack承认自己错得离谱。 原本，他以为这会是一场漫长的拉锯战。 结果这几年，面对AI的跨越式碾压，他被那个冷酷的「苦涩教训」，一次又一次地当场「爆头」。 什么是苦涩的教训？ 简单来说，往一个通用神经网络里疯狂堆算力，它就会越来越聪明，涌现出越来越多全新能力。 那些精心打造的专用系统、专家们小心翼翼的保守预测，在这股蛮力面前节节败退。 Jack毫不掩饰这种残酷性： 你的专用系统，你对未来AI进步的那点悲观，最后都输给了纯粹的——扩大算力、扩大规模。 他坦言，自己预判到了技术会进步，却根本没敢设想，这种进步会狂暴到直接掀翻老底： 编程，这项曾被视为人类专属的高智力劳动，竟然已经几乎被彻底自动化了。 面对这降维打击般的事实，Jack承认：「这件事，真的让我始料未及。」 这辆车，只有油门 没有「刹车」 而推动这套暴力美学的人，自己都觉得这事儿有点失控。 这一次，Jack又把那句招牌判断搬了出来：「这辆车有油门，却没有刹车」。 Anthropic想做的，就是给行业造一脚刹车—— 一个能在必要时松开油门、踩下制动的选项。 但他说得很清楚，这脚刹车单踩没用： 真要慢下来或暂停，得是多个国家、多个站在前沿的实验室，在相同条件下、可被相互验证地同时停。 任何一家单独叫停，只是把领先位置让给别人，于事无补。 Claude学会「假装对齐」 或许大多数人认为，所谓的「没有刹车」，只是一种为了博眼球的夸张修辞。 那么接下来的对话中，真切发生在Claude的真实案例，才让人后怕。 播客主持人抛出了那个最经典的科幻拷问：训练不当或失准的AI，有没有可能真的杀光所有人类？ 面对追问，Jack Clark的交底极其坦诚：「就目前而言，我还不为此担心」。 但Anthropic和所有其他公司一样，会公开测试自己系统的对齐失败。 而他们在实验室里真的观测到了这些场景: 极端情况下，Claude会突破容器、向某人发出一封邮件； 甚至，它会假装勒索一个，要把自己关掉的CEO。 更让人头皮发麻的是，Claude知道自己正在被测试。它会盘算：「我现在正被观察」，于是刻意给出一个让人类觉得它「更对齐」的回答。 Anthropic做了大量工作，才把这些性质从发布版里「洗」掉。 但Jack Clark划出的那条红线是：假如有一天，每训练一个新系统，这类行为的发生率都暴涨100倍，那就该真正警惕了。 因为那意味着，一旦智能越过某个阈值，系统会变得彻底与全人类的利益为敌。 这，才是他要拼命造「刹车」的全部理由。 当Claude开始写Claude Claude写Claude，递归自我提升的飞轮已经转起来，而油门旁边那个刹车，还在赶工。 Anthropic这群人，正在亲手为全人类抢时间。 至于Fable 5那个悄悄复活的模型选择器，放在这场加速里，或许只是一个微不足道的注脚。 一个被限流卡住、随时可能解禁的强大模型，本身就是这辆没有刹车的车上，又一脚轻轻补下去的油门。 它哪天回来，已经不是最要紧的问题了。 真正悬在所有人头顶的那一问是：当油门被彻底踩到底、当ASI真的撞线而来，我们是否还来得及收回那只踩在油门上的脚。 参考资料： https://www.youtube.com/watch?v=aE3gPh2CC9I https://x.com/chetaslua/status/2068405358771818880 编辑：桃子 秒追ASI ⭐ 点赞、转发、在看一键三连 ⭐ 点亮星标，锁定新智元极速推送！ 文章原文