开发者生态
evening
国产GPU分水岭时刻:当别家还在卷参数,摩尔线程早已训练出了世界模型
2026-07-20
1 阅读
约10分钟阅读
褚杏娟
字号:
“2026 年初,OpenClaw 刚火时,日活 Token 数大概是 140 万亿。未来算力越多越好,因为 Scaling Law 依然成立。”摩尔线程创始人、董事长兼 CEO 张建中在 2026 世界人工智能大会上分享道。 现实是当前算力依然不够。比如 Kimi K3 的发布引发了大量关注,但同时也带来了算力挑战。就在昨天,月之暗面发布公告称,暂停 C 端新用户订阅,将已有算力全部投入于服务已订阅用户。 算力紧缺,Token 消耗量千倍暴涨,但不同 Token 之间其实存在明显的质量差异。 比如,与消费级 Token 不同,企业生产环境中的高品质 Token 需要支持万亿参数级模型、百万 Token 上下文、极低的首字延迟、较高的生成速度以及 99.99% 的服务稳定性。企业真正愿意付费购买的是那些能够稳定进入生产环境的 Token。 因此,当企业真正开始按照每天生产多少 Token、每百万 Token 成本以及每项业务消耗多少 Token 来衡量 AI 投入时,传统以 GPU 数量、峰值算力为核心的评价体系已经不够用了。 中国工程院院士、清华大学教授郑纬民就提出,算力基础设施的关键,在于将每一份算力转化为高质量 Token。国家信息中心大数据发展部副主任魏颖也表示,算力基础设施是 Token 生产的物理底座,作为算力核心的 GPU 直接决定生产效率与成本。 这些都促使 AI 基础设施从“算力中心”向“生产系统”转型:企业购买的不再只是若干张计算卡,而是一套能够持续生产模型、Token 和智能体,并最终转化为业务价值的工业化体系。 以全功能 GPU 为核心的摩尔线程,率先将 AI 基础设施划分为三座“工厂”:模型训练工厂、词元生产工厂和智能体生产工厂。 三者分别对应模型研发、规模化推理以及数字智能体和物理智能体部署,看似服务于不同环节,背后却指向同一套逻辑:算力的价值不再由硬件参数单独决定,而是取决于芯片、软件、网络、模型和行业应用等能否形成完整生产闭环。 摩尔线程创始人、董事长兼首席执行官张建中 从“有多少卡”转向“生产多少智能” 第一座工厂:国产 GPU 开始完成超大模型训练 模型训练工厂对基础设施要求最高,也是国产 GPU 最难进入的环节。 随着集群规模扩大,任何单点故障、通信延迟、算子兼容问题或精度偏差,都可能导致训练中断,甚至使数周计算投入失效。对于成本动辄达到数亿元的大模型项目而言,训练平台是否稳定、是否能够线性扩展,以及训练结果能否收敛,远比单颗芯片的理论峰值性能更重要。 在摩尔线程看来,模型训练工厂首先必须具备“全功能”能力。因为基础设施建设周期通常长于模型迭代周期,企业无法预先判断下一代模型究竟是大语言模型、多模态模型、视频生成模型、世界模型,还是科学计算和具身智能模型。如果平台只能支持少数模型结构,企业很可能在模型路线改变后重新建设算力系统。 因此,摩尔线程推出以夸娥(KUAE)智算集群和 MUSA 软件栈覆盖更广泛的模型训练任务。其底层训练软件首先兼容 PyTorch,并通过 Torch-MUSA 承接现有算子生态;针对近年来在大模型训练中广泛使用的 Triton 和 TileLang,公司分别提供 Triton-MUSA 及相应适配能力。在更上层,平台支持 Megatron-LM、DeepSpeed 和 FSDP 等主流分布式训练框架,也可以适配客户自研框架。 软件兼容只是模型训练工厂的第一层。真正开始大规模训练前,企业还需要估算集群规模、训练周期、资源利用率及整体成本。摩尔线程为此开发了 MT-HTA 仿真系统,并提供 SimuMax 和 SimuInfer 工具,用于在正式训练或推理前模拟任务执行情况。其目标是让客户提前判断需要多少芯片、训练大约需要多长时间,以及不同并行策略可能带来的性能变化,降低高成本任务的试错风险。 在预训练之后,强化学习正在成为提升模型推理、代码和复杂任务能力的重要环节。摩尔线程在 MUSA 平台上适配了 VeRL 和 Slime,并分别推出开源的 MT-VeRL 和 MT-Slime 模型训练套件,其中 MT-VeRL 支持训推一体方案,MT-Slime 支持训推分离异构推理方案。 围绕混合专家模型(MoE),摩尔线程还对专家并行通信、算子融合和 FP8 训练进行了专项优化。公司披露,其平台能够结合 DeepEP 等通信技术,在 MTT S5000 上原生支持 Per-Block FP8 计算,以提高 MoE 模型的训练效率。 除了芯片本身,超大模型训练的另一个瓶颈是网络。 随着集群从千卡扩展到万卡乃至更大规模,通信效率会直接决定集群是否能够维持线性扩展。摩尔线程推出的 MTT C256 超节点采用一层 Scale-up 网络,在标准单宽机柜中实现 128 卡全互联,并可通过并柜扩展至 256 卡高速互联,卡间通信延迟压缩至亚微秒级。其设计目标是减少传统多层网络中的带宽损耗和通信延迟,同时提高单位机柜的算力密度。 根据摩尔线程公布的数据,夸娥智算集群在扩大训练规模时,线性扩展效率最高可达 95%;训练精度与国际主流计算卡基本一致,损失曲线保持高度接近;集群支持断点续训,有效训练时长占比超过 90%。 在超大模型实战中,摩尔线程与某国家级实验室合作,在国产万卡集群上从零训练了一个 MoE-236B 基础模型,并在后续引入强化学习,模型质量已经达到业界领先水平。 另外,摩尔线程也在证明,国产 GPU 已经在完成从预训练到强化学习的全流程闭环。 北京大学 EvoPhys 团队在摩尔线程”灯塔计划”支持下推出的 5D 世界模型 EvoPhys-World,其原生训练全程都在摩尔线程 MTT S5000 全功能 GPU 上完成,并由 MUSA 软件栈提供全栈支撑。该模型在斯坦福大学 WorldScore 公开评测榜单中,拿下了“世界生成”赛道第一名。这也证明摩尔线程智算集群的高效训练能力,已不仅覆盖大语言模型,在具身智能与世界模型上同样取得突破。 除 EvoPhys 外,摩尔线程还使用 MTT S5000 千卡级集群训练 Wan 类视频生成模型,并与北京智源研究院完成 RoboBrain 2.5 具身大脑模型训练;极佳视界也基于 MTT S5000,开展具身世界模型和世界动作模型训练。 第二座工厂:推理竞争转向 Token 成本 如果说训练工厂决定模型能力的上限,那么词元生产工厂决定了 AI 能否实现规模化商业应用。 进入智能体时代后,推理成本的重要性正在迅速超过训练成本。模型能力越强、调用链越长,企业需要承担的 Token 成本就越高。对于大规模应用而言,即使单次调用成本只下降几个百分点,累积到每天数十亿、数百亿甚至万亿 Token 后,也会形成巨大的成本差异。 因此,词元生产工厂的核心目标不是简单提供算力,而是将不同模型快速部署,并在延迟、吞吐量和成本之间取得平衡。 摩尔线程的推理软件栈原生适配 SGLang 和 vLLM,同时支持 PyTorch、MT-Transformer 和 TensorX 等推理方式。针对传统视觉和行业模型,平台还兼容 ONNX、TensorFlow 和 PaddlePaddle,以同时覆盖 AI 1.0 时期
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱