智能AI
morning
超节点如何成为AI算力的新答案?丨ToB产业观察
2026-09-17
1 阅读
约10分钟阅读
Leo张ToB杂谈
字号:
2026年,国产算力领域最火的一个词非超节点莫属。这个看起来有些技术化的名词,正在悄悄改变算力世界的底层逻辑。提到计算与超节点,我们首先想到一个词就是:天下之势,合久必分,分久必合。这点用在如今的计算领域十分恰当。 当我们从云计算的“分布式”计算时代走过,步入AI时代之后,单颗GPU已经不足承载AI算力需求之时,将多颗GPU所处的服务器“融合”成一台超级计算机,这就是超节点如今正在做的事。 推理市场的必然产物 2026年,用户对AI算力公司的提问已经从“你能给我多少卡?”,转变为“你每秒能稳定产出多少有效Token?成本是多少?”这背后的本质是因为大模型已经从原先的训练为主,变为推理为主。 过去两年,大模型的参数规模一路狂奔。从千亿级到万亿级,MoE架构成为主流,DeepSeek R1有671B参数、256个路由专家;Kimi K2.5更是达到了1T参数、384个路由专家。每生成一个Token,模型内部就要触发几十甚至上百次跨卡通信。这种通信量级,传统服务器集群根本扛不住。 对此,业内专家告诉我们,大模型正在从能训练、能运行进入规模化生产阶段,问题不再是单卡峰值和卡数,而是系统能否稳定承载模型、持续产出有效Token,同时控制时延与总成本。换句话说,训练是项目制的,训完即止;推理是运营制的,时延敏感,成本与收入直接挂钩。 无独有偶, 中科曙光 高级副总裁李斌也向我们表达了相似的观点,他指出,行业衡量算力的标准变了,过去主要看单颗芯片的峰值性能,现在更看一套系统能持续输出多少有效算力。 这个改变的背后,受到了两个需求的影响。 一个是模型侧的倒逼。 MoE混合专家架构驱动大模型参数规模持续膨胀,前沿模型的参数量快速突破万亿。参数和序列长度的增加带来键值缓存(KV Cache)的激增,需要超大显存空间来承载;而推理过程是典型的通信敏感型计算,专家路由、Token分发、跨卡数据交换,都对互连带宽和时延提出了近乎苛刻的要求。 另一个是应用侧的放大。 Agent的兴起让一次用户请求可能触发多轮模型调用、工具调用和并发任务,智能体推理需要生成比传统模型多近百倍的数据词元。对此,李斌指出,“Token消耗和并发压力都会上升,带来的跨卡通信,对带宽和时延都很敏感。” 需求有了,供给侧的条件也在成熟。高速互连、液冷、分布式存储和系统管理软件的进步,让把更多计算资源装进一个更紧密的系统成为可能。于是超节点从概念走向共识,而超节点本质上做了一件事:把高速互连域从传统的8卡扩展到几十卡甚至上百卡,让卡间通信从网络传输,变成内存访问级别的低延迟。 这个效率的提升效果有多大?以 英伟达 的NVL72为例,海外研究机构SemiAnalysis的开源推理基准InferenceX做过一组同芯片对照实验:GB200 NVL72与HGX B200使用同一代Blackwell GPU,唯一差异是系统架构。在DeepSeek R1推理中,NVL72凭借72卡NVLink全互连的规模优势,单卡吞吐最高达到B200的4.4倍,峰值达每卡4130 Token/秒,而B200只有941 Token/秒。原因在于,B200服务器只支持8卡NVLink互连,一旦专家并行度超过8,通信就要跨出NVLink域、走上带宽低得多的以太网。 效率提升的主要来源不是单卡变快,而是互连域和系统架构对通信开销的压缩。业内专家指出,“这波热度的本质是基础设施竞争的计量单位从FLOPS变成每元、每毫秒能稳定产出多少有效Token”。模型演进定义了需求的上限,系统能力决定了落地的下限,两者一旦匹配,超节点便从概念变成了产业共识。 超节点落地需面对“四堵墙” 方向明确了,但把超节点做出来,远比想象中艰难。行业普遍用“四堵墙”来概括传统服务器集群面临的瓶颈, 即 通信墙、功耗与散热墙、存储墙、复杂度墙。 超节点要突破这四堵墙,考验的不是某一项单点技术,而是计算、互连、供电、散热、存储、软件的系统级整合能力。也正因如此,真正的超节点“绝非物理组合”,据悉,前期仅芯片架构设计费用投入就可能超过亿元。 这其中首当其冲的就是通信墙。传统集群中,卡间通信走的是网络传输路径;超节点则把高带宽互连域从8卡扩展到64卡以上,让卡间通信变成接近内存访问的低延迟操作。 与通信墙相比,存储墙与复杂度墙则更考验体系化能力。中科曙光的思路是把通信、存储、散热和管理问题放到一个系统里协同优化:通信上采用超节点内部高速互连、超节点之间scaleFabric高速网络的分层架构;散热上浸没式相变液冷让PUE低至1.04;存储上ParaStor系统围绕大规模并发访问和检查点读写进行优化,并多次登顶全球性榜单。而面对复杂度墙(系统规模越大,局部故障、软件适配和运维压力越容易被放大)的挑战,曙光强调的下一阶段重点,是故障快速隔离与恢复、跨架构应用迁移等问题。 功耗/散热层面。目前超节点的解决方案中,液冷已经成为标配。联想在这条路上走得相当扎实,据联想中国基础设施业务群服务器事业部总经理周韬介绍,联想“海神液冷”品牌已从通用服务器扩展到全部AI服务器,支持45度温水进水,日常水温无需额外冷却处理即可直接使用,大幅降低冷却环节的能耗。此外,液冷硬件设备的生产过程也是对供应链的考验,对此,周韬告诉我们,整机柜液冷产品一个机柜承重超过3吨,耗电达到数百千瓦,联想为此对工厂进行了承重加固、十兆瓦级供电改造,而因为液冷快接头非常精密,灰尘和腐蚀很容易导致漏液,工厂甚至需要把生产环境的洁净度做到了十万级。 值得一提的是,目前超节点仍处于发展的初期阶段,我们在与不分国内一线服务器厂商的沟通中,各家在多大规模才合适的问题上,给出了不同的答案。分歧的焦点在于: 一级高速全互联域到底应该做多大? 在某行业专家看来,互连域存在收益收敛的边界,NVIDIA在GH200阶段的研究就验证过,互连域规模超过一定程度后,训练性能的边际提升趋于平缓,相对增加的复杂度、成本和故障面而言得不偿失。因此NVIDIA在GB200、Vera Rubin时代都在控制单一互连域规模,转而专注提升单系统效率。 联想的选择同样体现这一逻辑,据周韬介绍,联想问天超节点选择单节点40张GPU的规模,理由是真正意义上的一级高速全互联域,无论是NVIDIA NVL72、AMD Helios还是其他方案,规模大多集中在几十卡到百卡以内,所谓数百卡乃至上千卡的系统,本质上已进入多级互联和Scale Out集群范畴。40卡既能在节点内获得较 高通 信效率,又避免超大规模互连在可靠性、运维上的挑战,同时通过标准网络灵活扩展至更大的集群。 曙光则选择“大小通吃”:既有十万卡AI超集群曙光8000,也有40卡的scaleX40“箱式超节点”,对应不同客户的需求与建设条件。 尽管路线各异,但共识正在浮现: 规模是手段而非目的,真正需要优化的是一定规模约束下的系统效率。 业内专家直言不讳地批评了一种现象,部分厂商刻意把互连域规模包装成超节点能力的代名词,“规模可以在参数表上一夜之间做上去,Token成本却必须在真实负载里一分一毫地省出来”,该负责人指出。这句话,或许可以作为本轮超节点竞赛里最值得客户记下的一条选型提醒。 工程化是厂商角逐的焦点 技术验证只是起点。超节点要真正规模化落地
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱