用于高效张量计算的线程寄存器解耦 GPU 执行模型

计算机科学 > 硬件架构 arXiv:2608.19628 (cs) [2026 年 8 月 20 日提交] 标题：一种用于高效张量计算的线程寄存器解耦 GPU 执行模型 作者：Zihan Liu , Jingwen Leng , Yangjie Zhou , Yitong Ding ,guanlin Zhu , Yilu Huang , Chiheng Jin , Chen Zhu , Shixuan Sun , Yu Feng 、 Anbang Wu 、 MinyiGuo 、 Ken Weng 、 Jiajin Tu 、 Junsong Wang 查看标题为“用于高效张量计算的线程寄存器解耦 GPU 执行模型”的论文的 PDF，作者为 Zihan Liu 和其他 14 位作者 查看 PDF HTML（实验） 摘要：现代 GPU 越来越多地将张量核心集成到执行管道中。尽管总张量吞吐量持续增长，但在操作数供应已从 Ampere 中基于寄存器发展到 Hopper 和 Blackwell 中基于无冗余、基于内存的操作数供应的帮助下，为现代 AI 工作负载高效编排完整的张量计算管道仍然具有挑战性。我们将基本瓶颈确定为固定并行性和粗粒度调度，这两个瓶颈都是现代人工智能工作负载所暴露的，这些工作负载将各种非 GEMM 操作与 GEMM 交织在一起。为了有效地协调张量计算，我们提出了 FIBER，这是一种扩展 GPU SIMT（单指令、多线程）模型的新架构。它的基本执行实例 \emph{fibre} 与私有寄存器所有权分离，在通过共享视图访问 SM 寄存器时仅携带最小的控制状态。这实现了动态并行扩展、细粒度寄存器级数据流调度，并为矩阵操作数供应提供了无冗余替代方案。我们扩展了 ISA、微架构和编译器，以实现共享寄存器寻址、无冲突操作数传送和基于光纤的程序映射。在典型的混合精度 LLM 服务场景下，FIBER 在 Ampere 上实现了 2.25 倍的端到端加速（原始 FP16 计算为 1.15 倍），在 Hopper 和 Blackwell 上分别实现了 1.8 倍和 2.09 倍，内核级增益高达 2.49 倍。主题：硬件架构 (cs.AR) 引用为：arXiv:2608.19628 [cs.AR]（或此版本的 arXiv:2608.19628v1 [cs.AR]） https://doi.org/10.48550/arXiv.2608.19628 arXiv 通过 DataCite 发布的 DOI（待注册） 提交历史记录发件人：Zihan Liu [ 查看电子邮件 ] [v1] Thu, 20 Aug 2026 04:35:13 UTC (617 KB) 全文链接： Access Paper：查看由 Zihan Liu 和其他 14 位作者撰写的标题为“用于高效张量计算的线程寄存器解耦 GPU 执行模型”的论文的 PDF 查看 PDF HTML（实验性）TeX 源代码查看许可证 当前浏览上下文：cs.AR <上一页 |下一页 > 新 |最近 | 2026-08 更改浏览方式： cs 参考文献和引文 NASA ADS Google Scholar 语义学者正在加载... BibTeX 格式的引文正在加载... 数据提供者： 书签 书目工具 书目和引文工具 书目浏览器切换 书目浏览器（什么是浏览器？） 关联论文 切换 关联论文（什么是关联论文？） Litmaps 切换Litmaps（什么是 Litmaps？） scite.ai 切换 scite 智能引文（什么是智能引文？） 与本文相关的代码、数据、媒体代码、数据和媒体 alphaXiv 切换 alphaXiv（什么是 alphaXiv？） 代码链接 切换 CatalyzeX 论文代码查找器（什么是 CatalyzeX？） DagsHub 切换 DagsHub（什么是DagsHub？）GotitPub 切换 Gotit.pub（什么是 GotitPub？）Huggingface 切换拥抱脸（什么是 Huggingface？）ScienceCast 切换 ScienceCast（什么是 ScienceCast？）演示演示复制切换复制（什么是复制？）空间切换拥抱脸空间（什么是空间？）空间切换 TXYZ.AI（什么）是 TXYZ.AI？） 相关论文推荐器和搜索工具 影响花链接 影响花（什么是影响花？） 核心推荐器切换 核心推荐器（什么是 CORE？） 作者地点 机构 主题 关于 arXivLabs arXivLabs：与社区合作者的实验项目 arXivLabs 是一个框架，允许合作者直接在我们的网站上开发和共享新的 arXiv 功能。与 arXivLabs 合作的个人和组织都接受并接受了我们开放、社区、卓越和用户数据隐私的价值观。 arXiv 致力于这些价值观，并且只与遵守这些价值观的合作伙伴合作。您有一个能为 arXiv 社区增加价值的项目想法吗？了解有关 arXivLabs 的更多信息。这篇论文的哪些作者是认可者？ |禁用 MathJax（什么是 MathJax？）