人工智能竞赛刚刚变得尴尬

如果你阅读这些天的新闻头条，你可能会认为西方实验室正在被中国实验室集体安营扎寨，这是情有可原的。蒸馏戏剧 Anthropic 每周都会发表另一篇文章，讲述中国人如何蒸馏他们的模型，如何成为人类本身的危险等等。这样说对他们来说是有好处的，因为这为这些模型以后受到法律和监管奠定了基础。但很明显，盲目蒸馏的时代已经结束。不只是结束。城里的新游戏正在采用中国实验室的进步。请注意我如何称这种采用为“采用”，而不是 Anthropic 倾向于使用的更具尖酸刻薄的“窃取”。这是因为，与西方公司不同，中国公司几乎在泄露他们的食谱。一款不同的游戏 最近，DeepSeek 慷慨地与全世界分享了 KV 缓存优化的突破，它被无耻地复制了。这是一项令人兴奋的优化，与 DeepSeek-V1 相比，对于使用长会话上下文（例如编码）的某些用例，基本上减少了 KV 缓存占用量大约 437 倍。他们是第一批发布 MLA 架构的公司，该架构将缓存压缩了大约 15 倍，然后推出了“压缩稀疏注意力”和“重度压缩注意力”。最新的 DeepSeek-V4.1-Flash 通过 CSA2、跨层缓存重用、因果编码器-解码器架构和 FP4 缓存将其进一步推动，将全局 KV 缓存降至每个令牌 890 字节。为什么这些事情很重要？因为对于服务长上下文模型，最大的成本之一是在 GPU 内存中保存此缓存所需的 VRAM。下面的图表显示了整个事情有多么疯狂： 关注缓存资金 将其与大约两个月前相同级别的成本进行比较。以下所有价格均按每 100 万个代币计算： 非常安静的感谢 所有这些都意味着西方人工智能公司现在的推理利润非常积极。获得先进 GPU 的限制迫使中国实验室将性能优化作为首要目标，这一点在结果中得到了体现。现在我不知道他们为什么会无偿放弃这样的突破，但他们就是这么做了，而且这一次 Anthropic 和 OpenAI 都发布了基本上是顶级的模型并且正在使用这些优化。他们似乎对抄袭感到有点尴尬。因此，Claude Opus 5.5 和 GPT-6.1 Sol 都在没有太多预先公告的情况下悄然发布。用户的评论非常出色。与他们的旗舰型号（Claude Fable 5.1和GPT-6 Astra）相比，质量似乎并没有那么遥远。缓存读取成本是采用的证明。它们大幅下降：与 Opus 5 相比，Opus 5.5 将缓存读取定价降低了 60%，而 GPT-6.1 Sol 与 GPT-5.6 Sol 7 月底的定价相比，将缓存读取定价降低了 80%。因此，中国实验室为西方亏损实验室提供了救生索，我只是不知道为什么。