敢和英伟达现场PK的国产GPU，我是服的

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 敢和英伟达现场PK的国产GPU，我是服的 十三 2026-10-29 13:57:33 来源： 量子位 金磊 发自 上海 量子位 | 公众号 QbitAI 我愿称之为， 国产芯片 界的 真勇士 。 事情是这样的。 一家国产芯片公司，竟敢把自家的GPU和 英伟达H200 ，直接在现场 真枪实弹 地来了一把 PK 。 而且题目还不是自己出的，是随机挑了几个人、 当场出题 的那种！ 例如 文生图 ，有人出的题目是“一只老虎把月亮踢飞”： 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 结果，这块国产GPU跑赢了！ 它用时仅为 95.6秒 ，而英伟达H200耗时为112秒。 这还没完。 刚才的PK是在云端跑的，而后这家国产芯片公司，又拿出了一台巴掌大的银色小盒子，在 端侧断网 去跟英伟达的机器人大脑 Jetson Thor T5000 硬碰硬。 依旧是现场随机挑人、随机出题，这次的题目是“狮子和老虎单挑，谁会赢？” 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 肉眼可见，这个国产银色小盒子的速度，明显要比Thor T5000快得多。 那么这家国产芯片公司到底是谁？ 不卖关子，它就是 天数智芯 。 刚才云端跑赢H200的，是 天垓300 ；端侧跑赢Thor的，则是 彤央TY1200 。 除此之外，天数智芯还在同一场活动，一道发布了 用AI来开发AI 的 天数智算软件栈 。 熟悉天数智芯的朋友们可能还会记得，今年1月份，在它刚上市敲钟半个月之际，就一口气发布了四款彤央边端产品，当时TY1000实测超过的是英伟达AGX Orin。 同一天，它还亮出一张四代架构路线图，第一站就是 天枢架构 ，目标直指超越Hopper，后面还排着Blackwell和Rubin。 但毕竟当时只是路线图嘛（ 谁都会画 ）…… 而9个多月后，天数智芯还真来 交作业 了。 天垓300正是基于天枢架构，这次对标的是Hopper家族的旗舰H200；端侧的对手，也从Orin换成了更强的Thor。 至于为什么云、软件、端三条线一起发，天数智芯的逻辑是这样的： 云端负责生产智能，软件栈负责让适配和优化跑得更快，端侧负责把智能送进工厂、实验室、医院这些真实现场。 在天数智芯看来，三者咬合在一起，才是它口中的 高质量算力 ，即高效率、可预期、可持续。 那么接下来，我们详细地来品鉴一下这场实测~ 天垓300：对标H200，交出实测答卷 先来看下云端的天垓300。 其实它并非第一次亮相，早在今年7月之际，第三方权威机构拿四大主流模型、三类场景，给天垓300做了一轮测试。 在大模型最典型的PD分离部署下，天垓300折算单卡端到端吞吐，是H200的 1.05倍 。 但这里比的不是纸面峰值，是一条推理链路从头跑到尾、实打实吐出来的Token。 按天数智芯的说法，天垓300由此成为国内首个实测性能达到H200水平的通用GPU。 不仅如此，毕竟天垓300定位是通用GPU，所以它得是训练和推理两头都能打的那种。 我们先来看 推理 这一块。 对于现在的大模型来说，长上下文是一道绕不开的坎。天数智芯AI与加速计算负责人 单天逸 在现场打了个比方： 情侣恋爱十周年，女生问男生，这十年里最刻骨铭心的时刻是什么？男生不会把3650天挨个回忆一遍，脑子里蹦出来的，也就那么几个瞬间。 而Attention干的就是这件事，天垓300也专门为此做了定制优化。结果显示，GLM-5.3在64K规模下，MoE吞吐是H200的 1.15倍 ；8K到128K长上下文里，Agent首字延迟比H200低 10%到30% 。 接下来，我们再来看 训练 这一块。 在Qwen3-32B的8卡FP8训练中，天垓300每卡有效吞吐是H100的1.33倍。在现场，单天逸放了一段加速100倍的训练命令行录屏，天垓300那边早早跑完，H100还在一步一步往前挪。 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 在常规训练之外，天垓300还是扛得住强化学习的那种，而这恰恰是当下主力大模型都在用的后训练路线。 按天数智芯的工程测算，1024张卡，约26天就能对一个1T参数、40B激活的MoE模型完成一轮强化学习——差不多正好卡在大模型厂商一个多月一迭代的节奏上。 推理、训练之外，我们再来看看眼下爆火的 Token工厂 。 建一座Token工厂，大约75%到80%的投入都花在设备上。既然设备这笔钱省不下来，那么每一张卡就必须跑得多、跑得稳，Token的单位成本才降得下来。 在“跑得多”这一点上，前面提到的1.05倍已经给出了答案。至于“跑得稳”，则要看步时波动： 满负荷运行时，天垓300的步时波动是 0.43% ，而作为对比的Hopper方案是0.76%。这意味着即便长时间高负载运行，天垓300也不容易掉链子。 如果再把规模往上推，天数智芯给出的方案是 IXL144超节点 。 它在一个标准机柜里塞进了144颗GPU，聚合显存约10.1TB，是目前业界密度最高的单机柜GPU超节点。据天数智芯测算，与H200方案相比，它的每百万有效Token成本可以降低约40%。 除了单卡性能，天垓300还有一个细节挺有意思，那就是它并不打算用一种芯片包打天下。 天垓300既能和英伟达的H100、H200混合训练，也能和其他厂商的芯片搭伙干活。 这次天数智芯跑通的，是国内首个GPU+XPU异构AFD分离方案：由天垓300负责Prefill和Attention，由合作厂商的XPU负责FFN，实测Decoding推理延迟降低了60%。 在这些和大模型直接相关的测试之外，现场还播放了一组更硬核的物理仿真演示。在单天逸看来，AI远不止Transformer，芯片也不该反过来限制算法的发展。为了证明这一点，他现场放了三段仿真视频。 首先是用一张天垓300模拟一台 龙门吊 。整个过程中，每个滑块的摩擦力、起吊的速度和力量，都需要芯片实时算出来。 其次是把256个 二连杆 装进了同一个模型里做强化学习，相当于让256个并行世界同时试错，这对GPU的并行计算能力要求非常高。 最后是一场 撞击实验 。140个滑块相互碰撞，每一块都会影响其他所有滑块，所以每撞一次，芯片都要同时算出140个滑块的受力情况。 视频地址： https://mp.weixin.qq.com/s/Non20tfUB860KjNQkW3LZQ 这些演示虽然看起来像物理课上的动画，但它们其实是机器人进入真实世界之前，必须在仿真环境里反复练习的基本功。 彤央TY1200：300T稠密算力，反超Thor T5000 说完云端，我们再来看端侧。 正如我们刚才提到的，这次彤央TY1200的对手，是英伟达的Jetson Thor T5000。 用天数智芯彤央产品市场负责人