智能AI
morning
给万卡国产芯装个“超级外挂”!清华团队要造最强国产Token工厂
2026-11-22
1 阅读
约9分钟阅读
杰西卡
字号:
< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> 给万卡国产芯装个“超级外挂”!清华团队要造最强国产Token工厂 杰西卡 2026-11-20 16:59:15 来源: 量子位 杰西卡 发自 凹非寺 量子位 | 公众号 QbitAI 两年半,增长5000倍。 这是中国日均Token调用量的增长规模。2024年初,这一调用量还是1000亿;到2026年6月时,已达到约500万亿。 Agent应用深入千行百业,模型能力不断突破,AI对算力的需求正在以前所未有的速度扩张。 需求井喷之时,供给侧却面临另一番景象。 由于众所周知的外部环境,非国产先进算力供应的不确定性持续存在,国产芯片正加速走向主场。市场研究机构TrendForce预测,2026年中国高端AI芯片市场中,国产方案的出货份额将 接近90% 。 毋庸置疑的一点是, 国芯国模,正在从重要的技术选择,成为中国AI产业必须掌握的基础能力 。 但这条主线上依然布满障碍。不同厂商的芯片对应不同的软件栈,模型适配与开发者生态仍在完善;设备上架后难以匹配真实流量,算力利用率不足…… 更深层的矛盾在于,供给侧按卡数、机柜和峰值算力衡量资源,需求侧却按照有效Token产出、响应速度和服务质量采购。 供需两端,说着两种不同的语言。 一家出身清华系的AI基础设施企业—— 清昴智能 ,正尝试成为这中间的“翻译官”。 11月17日,清昴联合华为昇腾生态及多家产业伙伴,正式发起 昇腾950DT万卡级Token工厂联合运营计划 。 按照计划,清昴将以打造 国内规模最大的独立国产Token工厂为目标 ,将分散、异构的国产算力组织起来,通过RSI驱动的软件技术和运营体系,转化为 可计量、可验收、稳定交付的Token产能 。 未来五年,清昴还会进一步建设覆盖多地域、多芯片的十万卡级Token工厂网络,让国产芯片真正成为支撑大模型与Agent持续运行的生产力。 万卡计划背后,国产AI产业正在孕育一场新的分工。 让分散的国产算力,汇成万卡级Token工厂 建设万卡级算力集群,解决的是 计算资源的规模问题 。而要让这些算力成为一座持续生产、稳定交付Token的工厂,还需要更完整的技术与运营体系。 除了芯片、机房和电力,Token的生产还涉及 模型适配、资源调度和真实业务需求 。这些能力和资源,通常分散在产业链上的不同企业手中。 清昴此次万卡计划的特殊之处,就在于 “联合运营” 四个字。 按照最新公布的路线图,清昴计划于 2027年 推进昇腾950DT万卡级联合运营,建设 国内领先的独立国产Token工厂 。 他们还计划,未来五年,将这套体系扩展为 十万卡级别 自主可控的Token工厂网络,实现多地域、多芯片的统一调度与全国产算力供需匹配。 面对如此庞大的算力规模,清昴选择让不同企业各展所长,共同参与Token生产。 具体而言,这一计划将由四方共建、联合运营: 华为昇腾生态提供芯片、超节点产品及技术协同; IDC和智算中心提供机房、电力与算力资源; 模型与流量方提供真实业务需求,并参与服务质量验收; 清昴智能作为生态组织者,承担中间的软件优化、集群调度、统一计量和联合运营工作,让分散的算力统一调度,再将最终产出的Token交付给客户。 四方围绕真实Token产出建立合作机制,通过服务质量协议(SLA)和统一计量体系,明确各自的投入、运营责任与收益分配。 芯片、机房和模型需求来自不同企业,但最终交付的是符合统一标准的Token服务。各方的合作,也由设备和资源的供给,进一步深入到生产与运营环节。 清昴公布的首批运营合作方,包括 北京智源人工智能研究院、上海数据港、中国电信湖北分公司、湖北大数据集团和北京国际算力服务有限公司 等。 而支撑这项万卡计划的,是清昴此前积累的 国产算力运营基础 。 截至目前,清昴已联合 20余家算力中心 开展运营,积累近 2万张国产卡 的调度经验,完成了15款以上国产芯片的适配优化,并推进了近10套昇腾910C超节点落地。 新一代硬件也有了落地进展。作为 华为首批950DT超节点合作伙伴 ,清昴披露,多套昇腾950算力已经落地武汉、芜湖等地机房,相关全栈适配与运营能力正在建设中。 这些跨芯片、跨中心的实践经验,也让清昴有机会通过昇腾950DT平台,将Token生产能力铺向更大的算力网络。 一条不同于传统算力中心建设的商业路径,也由此逐渐清晰起来。 传统智算中心的扩张,往往伴随着大量芯片采购、机房建设和配套投资。企业投入多少资本,很大程度上决定了能够掌握多少计算资源。 清昴则通过联合运营参与Token生产,让算力服务的扩张不再完全依赖自有设备数量, 技术效率、资源组织和客户交付能力 的重要性随之提高。 不过,万卡规模只是基础。同样是一万张卡,模型适配效率不同、资源调度水平不同,最终能够交付的Token产量与质量往往相去甚远。 既然差距真实存在,那Token工厂该怎样建立一套可比较的标尺呢? 清昴智能创始人、首席执行官关超宇,提出了衡量Token工厂实力的核心验收标准: 多、快、好、省。 多,衡量支持模型的丰富程度与有效Token吞吐; 快,关注首Token时延、输出速度及新模型适配效率; 好,要求模型精度一致、服务稳定,并满足客户SLA; 省,则落在每百万有效Token的综合成本与单位能耗产出。 这四项标准最终指向同一个目标——在既定的服务质量下, 让有限的计算资源持续产出更多高质量Token 。 而在国产算力快速扩张的当下,要让一座万卡工厂真正高效运转,实际还有大量的工程难题横亘其间。 有卡不等于有高质量Token 国产算力发展到今天,首先遭遇的是 模型与硬件之间的时间差 。 模型一日千里,硬件却有自己的生长周期。一款芯片从规划、研发到发布,可能需要三年左右。但短短一年多,模型规模、上下文长度、推理方式及客户对响应速度的要求,就可能发生巨大变化。 更何况,国产算力正呈现多元化发展格局。不同芯片拥有不同的架构和软件栈,新模型投入使用,往往还需要经过兼容、算子调优和性能验证。 北京智源人工智能研究院副院长兼总工程师林咏华认为,国内已经拥有不少优秀的芯片团队,产业更需要完善的是 让不同硬件共享技术成果、协同发展的软件体系 。 △北京智源人工智能研究院副院长兼总工程师林咏华 所以,芯片的选择愈加丰富后, 模型与硬件之间的软件适配 ,就成为必须跨越的第一道关口。 而第二道关口,在数据中心的实际运行中—— 设备上架率,并不等于算力利用率。 真实业务里,长短请求大多混杂,并发量不断波动,Agent还会在复杂任务中反复调用模型,产生大量长上下文和缓存需求。 固定的模型部署与调度方案,很难始终匹配这样的负载变化。芯片即便完成部署,仍需要持续优化并行策略、缓存管理和资源分配,才能充分释放计算能力。 因此, 算力建设与业务需求之间 ,同样存在时间错位。 国产算力扩张的最后一道关口,落在 实际交付 上。 芯片厂商关注计算性能,算力中心关注卡数和资源利用率;真正购买模型服务的客户,却更加关心Token吞
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱