游戏
morning
中国人造出了那台“造AI的光刻机”吗?
摘要
文 | 胡说成理 就在这两天,ForgeKernel,一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,当着全网的面,把DeepSeek最新的核心算子写快了9.8%! FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,可以说是代表了人类手写算子的巅峰。 这在中美竞逐全球A...
FlashMLA
RSI
ForgeKernel
一个无人参与的Agent在无需参考DeepSeek原始实现的情况下
把DeepSeek最新的核心算子写快了9
Clark
Anthropic
B200
DeepSeek
FlashAttention
2026-11-05
1 阅读
约10分钟阅读
胡说成理
字号:
文 | 胡说成理 就在这两天,ForgeKernel,一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,当着全网的面,把DeepSeek最新的核心算子写快了9.8%! FlashMLA是DeepSeek开源的注意力核心算子库,10月20日刚开源的推理框架DeepInfer也把它集成在内;它出自业内公认Infra最强的团队之手,可以说是代表了人类手写算子的巅峰。 这在中美竞逐全球AI创新第一策源地的PK中,拿下了RSI领域极其重要的一分,尤其是它不是编程、不是跑评测、不是开发游戏,而是写最底层的算子时,它的意义被格外加强了——RSI的光亮,已经照到了中国AI创新的底层研发能力上。 从9月到10月,各路 AI 大牛给 RSI(递归自我改进)添柴加火的力度就没降下来过。有的出于对人类和 AI 终极关系的焦虑,有的也许只是在替背后的商业组织保住一份声量。 说话的人大致分两种。一种是造风者,看的是行业的热度和比拼的烈度,底层比的是造风的能力,典型如马斯克;另一种手里有成体系的实践做凭据,却缺少整体方法论层面的支撑,比如下文的 Clark。 10月12日,Anthropic 联合创始人 Jack Clark 在 Import AI 第476期改了口:完整 RSI——递归自我改进实现完整闭环——的到来时间,从2028年提前到了2027年。 他是证据派,证据就在身边。Anthropic 的日代码合并量从五月的两千五百次涨到九月的三万次以上,Git 撑不住了,换上了自研的版本管理系统 Scion。马斯克在社交媒体上只回了一个词:Obv——显然。 所有头部企业都在往这个方向使劲,RSI 像是今天确定性最高的前沿方向;可它同时又是标准最模糊的方向,没有公开的评判框架,同一个词底下装着价值完全不同的工作。 我关注到面壁智能,是因为它比前面两种人都更进一步,拿出了可以被检验的东西。AI 从一个空目录起步,两天左右写出的训练框架,跑赢了人类工程师打磨多年的基线;面壁自己的模型,从今年5月起就在这样的框架上训练;而一场直播和它在华为榜单上的屠榜,又把这家公司推到了一个业界极其特殊、极其瞩目的位置上。 真正让我觉得炸裂的,是这家公司的体量。一家百人量级的公司,走在了 AI 研发范式的最前沿。这不是一个天授奇才的故事,它反映的是 AI 前沿竞争眼下的趋势。 两年前,面壁说要给大模型造一台“光刻机”。这台机器造出来没有,造到了哪一步,是这篇文章要回答的。 01 最依赖人类手艺的那一层,它赢了 一场让一般人看起来觉得极其枯燥的22.5小时的直播炸了。 它就是我们开头说过的:ForgeKernel, 一个无人参与的Agent在无需参考DeepSeek原始实现的情况下,就当着全网的面,把DeepSeek最新的核心算子写快了9.8%! 直播从10月30日开始,一直跑到第二天上午九点多,前后22.5个小时。屏幕上没有人在敲代码,只有一个智能体、一块英伟达 B200,和一个目标:写出一个比 DeepSeek 的 FlashMLA 更快的 Prefill 算子。 它手里只有算子的数学定义和目标硬件的约束,没有源码,也没有论文可抄。第一版过了正确性检查,耗时1834微秒;不到4个小时,就压到了593微秒。 第7个小时前后,一次核心结构上的突破,让它先超过了自己的上一代版本,接着第一次跑赢了 FlashMLA。 直播收尾时,最终版本耗时472微秒,FlashMLA 是518微秒。全程42轮迭代,留下32个版本,只用了一块 B200、22个 GPU 小时。 人类为这个算子写下的代码,是零行。 直播后段有个细节。它自己发现,Q 的突发加载正在和 KV 的数据搬运争抢访存资源,于是主动控制 Q 的请求节奏,又压下了2.4%的耗时。这样的判断,过去只有资深专家做得出来。 算子是大模型运行时反复调用的基础计算模块。矩阵乘法、归一化等运算,都需要通过相应的算子在芯片上完成。一颗芯片能发挥出多少性能,很大程度上取决于这些算子的优化水平。数据怎么搬运、计算如何并行、芯片资源能不能充分利用,都会影响模型最终的运行速度。同样一颗芯片,算子优化水平不同,实际性能可能相差很大。 一个算子,能改写一个行业。2022年的 FlashAttention 只重写了注意力计算这一步,就让它快了数倍,长上下文从此用得起,今天几乎每个大模型都离不开它和它的后代。DeepSeek 的 FlashMLA,就是这条血脉上长出来的一支。 这也是最依赖人类手艺的一层。写好一个顶级算子,得同时吃透算法、芯片的存储层级和指令调度,再在一块块硬件上反复试错;据面壁介绍,FlashAttention 这类需要深度重构的算子,人类专家往往要数月甚至半年才完成一次迭代。 这一层,也一直是 AI 写代码最吃力的地方。2025年初斯坦福发布 KernelBench 时,最强的推理模型写出的 GPU 算子,能追平 PyTorch 基线的还不到两成。写网页、写业务代码,AI 早已得心应手;到了算子这一层,它面对的是人类手艺的天花板。 英伟达的护城河,很大一部分就筑在这一层。CUDA 生态走到今天,靠的是近二十年里一代代专家手写、调优出来的算子库;国产芯片每出一代新硬件、每来一个新模型,这些算子都得重新适配一遍。去年8月,华为宣布把昇腾的 CANN 软件栈全面开源,瞄准的就是这道墙。 可人类专家的数量,跟不上芯片和模型迭代的速度。中美在高端算力上本来就有差距,软件这道坎如果还要靠人头和年头去填,差距只会越拉越大。 所以10月27日昇腾 CANN 官方发文点名 ForgeKernel,分量很重:它同时登顶 CANNBench 的950DT、950PR、A3三张硬件榜单。 950DT 是华为今年才推出的新一代芯片,配套算子库还在建设初期,人工适配本来就慢。 ForgeKernel 率先完成适配,按10月27日的榜单,总分领先第二名37.1%。 A3 对应的是眼下用得最广的昇腾910C,早在10月15日封榜的上一版 CANNBench 里,这张榜的第一就已经是它。 英伟达那一侧,ForgeKernel 在英伟达推出的 SOL-ExecBench 上最难的FlashInfer-Bench赛道上,同样排名第一。这套评测从124个真实模型里抽出235道 CUDA 算子题,量的是离硬件物理极限还差多远;同榜的还有 Databricks、Cursor、Qwen 等海内外团队。 两边的软硬件差别很大,英伟达是 CUDA,昇腾有自己独立的架构和工具链。ForgeKernel 用的是同一套系统,换平台时只把性能分析工具从 NCU 换成 msprof,新芯片需要的硬件知识,由模型在这块芯片上边测边攒。 成绩摆在官方榜单上,过程摆在全网眼前,代码也交了出来:直播结束后,面壁智能进化实验室联合 OpenBMB 社区宣布开源 ForgeKernel。 又过了几天,关于ForgeKernel的论文也正式挂网了。 这件事改变了面壁在产业里的位置。它原本以端侧模型见长;现在,它写的算子同时排在昇腾和英伟达官方榜单的最前面,ForgeKernel 生成的算子也已接进训练框架,在国产芯片和英伟达平台上跑完了 MiniCPM5-1B
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱