把黄仁勋的小黄鸭训练放在本地！国产端侧600T算力即将到来

编辑｜冷猫 近年来，AI 算力的赛道上从来不缺故事。 就连行业巨头英伟达也不能免俗。在今年柏林的 GTC 大会上，黄仁勋带着一群可爱的机器鸭 Microduck 亮相。小黄鸭们应声起立，坐下，翻跟头，一下子风靡全球。 黄仁勋说这些小黄鸭「在 RTX Spark 上诞生，在云端一堆英伟达超级计算机上训练，又在数字孪生里学会了本事」。 近日，天数智芯在 上海举办了主 题为「从模型到世界」的媒体开放日 。这是这家今年 1 月登陆港股的通用 GPU 公司，上市以来首次系统性地向媒体展示产品全貌。 而「手搓版」Microduck 也出现在了开放日现场。这是通过 3D 打印和手工组装制作的机器鸭，在现场表演「走路、打盹、起身」等动作。 和英伟达方案不同的是，英伟达的小黄鸭训练仍然依赖云端算力的支撑。而天数智芯的小黄鸭，在一台端侧设备上完成了全部训练流程。 这是天数智芯 最新端侧算力终端 彤央 TY1200 ，稠密算力标称值为 300 TOPS，实测性能超越英伟达 Thor T5000。 在现场，一台彤央 TY1200 终端，独立完成了从环境构建、策略训练到实时仿真的全流程，机器人在虚拟环境中学会行走的过程被完整呈现。这是 国内端侧产品首次实现 GPU 加速的物理仿真引擎本地运行 。 在此次开放日中，同台亮相的除了端侧算力终端 彤央 TY1200 之外， 还有最新的算力卡 天垓 300 云端通用 GPU ， 「 用 A I 开发 AI」的软件栈 。 硬核内容警告。接下来，我们将关注端侧，看看这个能把英伟达在云端完成的小黄鸭训练拉到本地的国产终端，到底是什么来头。 彤央 TY1200：把云端能力折叠进方寸之间 端侧机会的出现，首先与模型能力的变化有关。 斯坦福 HAI《2025 AI Index》记录了一个变化：在 MMLU 上跨过 60% 得分门槛的最小模型，参数规模从 2022 年的 5400 亿，降至 2024 年的 38 亿。它说明，达到一定能力水平所需的模型体量正在飞速缩小。 在近期发布 Jetson 新模组时，英伟达表示，通用机器人和自主机器正在从研究机构走向大众市场，由此催生了对能够在边缘运行基础模型、紧凑且高能效的 AI 超级计算机的需求。 与此同时，端侧算力芯片本身也在快速迭代，算力密度和能效比逐代提升。两条曲线正在交汇，而彤央 TY1200 恰好站在了这个交叉点上，成为国产端侧算力一个全新的里程碑。 实测对标：TY1200 vs NVIDIA Thor T5000 这次，成为了各位媒体老师目光焦点的小黄鸭，正是在彤央 TY1200 端侧算力终端上完成的全链路训练。 TY1200 的算力表现究竟有多强？从标称参数来看，它拥有 300 TOPS 的稠密算力，已经相当可观。但更令人意外的是，在实际测试中，TY1200 的性能表现甚至超过了英伟达 Thor T5000。 首先看 LLM 实测数据。生成吞吐，衡量的是单位时间内能够生成多少 Token，也就是模型处理和生成文本的基本单位。 TY1200 运行 Qwen3.8-27B-AWQ 的生成吞吐，达到 Thor T5000 对照方案的 1.38 倍 。在 Qwen3.6-35B-A3B-AWQ 上，这一数值为 1.10 倍 。 在能够处理图像与文本的视觉语言模型测试中，TY1200 也取得了较高的相对成绩。例如，运行 Qwen2.5-VL-3B-Instruct 时，其生成吞吐为 Thor T5000 的 1.8 0 倍 ；Batch Size 到 32 时，则为 1.18 倍 。 VLA 相关测试中，TY1200 在 Cosmos-R2-2B 和 Cosmos-R2-8B 上的表现，分别为 Thor 的 1.58 倍和 1.80 倍 。 实机对比视频则把体验呈现得更直观。两台设备接收同一提示词后，TY1200 用了 0.223 秒开始返回首个 Token，Thor T5000 为 0.411 秒；随后，TY1200 的生成速度达到每秒 30.21 Token，而 Thor 为每秒 24.46 Token。 打开端侧的无限空间 当算力从云端落到本地，AI 应用的边界也会随之拓宽。 越来越多的模型能够摆脱云端算力，甚至能够在本地完成训练之后，不仅意味着更低的延迟、更好的数据隐私保护，也让 AI 有机会深入实验室、医院、机器人等更多真实场景。 在实验室，AI 正在改变科研人员处理数据的方式。 天数智芯联合河海大学新能源学院与常州电池协会，面向储能电芯研发打造了垂直 AI 智能体，并已部署在河海大学金坛校区的电池材料分析实验平台。在 TY1200 的算力支持下，系统打通了从专业仪器数据采集、清洗校验、结构化入库到智能分析、报告生成的完整流程，仅需约 2 分钟即可生成分析报告。 在复杂动态环境中，机器狗展示了端侧 AI 的实时感知能力。 现场视频同时呈现第三人称画面和机器狗的第一视角。摄像头捕捉到人脸后，系统完成目标识别，机器狗随即跟随目标移动。据介绍，人脸检测、识别及相关决策均由搭载的 TY1000 模组在本地完成。 在博物馆，一台设备还能实现「白天工作、夜间训练」。 根据天数智芯的介绍，TY1200 白天支持视觉、语音与大模型结合的智能导览服务，夜间则用于 CV 小模型训练。这种模式让端侧设备既能承担日常推理任务，也能利用空闲时段参与模型更新，提高算力资源的利用效率。 在医院，端侧 AI 已经走进真实的服务场景。 由 TY1200 提供算力支持的陪诊机器人，已在上海市阳光康复中心投入使用，为视障人士提供路线引导、就诊流程指引等服务。相比简单的语音交互，这类应用还需要将环境感知、信息理解与现场行动衔接起来，对端侧算力提出了更高要求。 端侧算力的消费模式正在从「连接云端做推理」转向「独立完成训练 - 推理 - 部署全链路」。彤央产品线的定位，正是为这种新的算力消费模式提供硬件基础。 以边端产品完美衔接「算力分层」 为什么一家通用 GPU 厂商，要把算力进一步带到办公桌、实验室，甚至机器人身上？ 在开放日上，天数智芯彤央产品市场负责人宋远盈给出了三个理由： 业务变了，技术变了，商业资源也变了 。 首先，随着物理 AI 兴起，越来越多的数据直接产生于真实世界，机器人、工业设备等场景对实时响应的要求也越来越高。与此同时，企业对数据安全和隐私的重视，也让合同、财务、源代码等敏感信息有了更强的本地处理需求。算力越靠近数据，越能满足这些场景对时延和安全的要求。 其次，模型正在变得越来越「小而强」。过去需要更大参数规模才能完成的任务，如今可以交给更小的模型处理。这意味着，端侧设备已经能够承载越来越多真正有用的 AI 能力。 最后，还有一笔经济账。随着 AI 从尝鲜走向规模化应用，企业开始认真计算 Token 成本、设备投入与长期使用效率。对于高频、稳定的本地任务，端侧部署有机会减少持续调用云端 API 的开销。 三股力量共同推动了 「算力分层」 的现实需求。不是所有的 AI 需求都需要云端服务，复杂任务由云端承担，实时性要求高、适合就地处理的任务下沉到边端， 让每一份算力都用在最能发挥价值的位置 。 而对于天数智芯这样的通用 GPU 厂商，布局边端还有一项重要