开发者生态
morning
Frostbite:由 AI 发现、设计和验证的新 CPU 架构
摘要
Abstract In our previous post, Redwood , we showed that given an architecture, our AI systems could implement, verify, and deploy an inference accelerator in record time. However, similar to other sci...
and
the
that
systems
CPU
every
our
hardware
set
step
2026-11-20
1 阅读
约5分钟阅读
shioyama
字号:
摘要 在我们之前的文章 Redwood 中,我们展示了给定一个架构,我们的人工智能系统可以在创纪录的时间内实现、验证和部署推理加速器。然而,与其他科学领域类似,我们相信,人工智能系统在给予正确的自由度和护栏的情况下,可以共同设计软件和硬件,跨堆栈进行优化,并打开以前无法访问的大设计空间。我们着手回答这个问题:“我们的人工智能系统和工具能否带来一种新颖的硬件发现,其性能从根本上优于人造设计?”今天,我们要介绍的是 Frostbite,这是一款具有全新指令集的通用 CPU。 Frostbite 利用交互网络的特性,即每个步骤都是本地的、每个依赖关系都是显式的、每个值都有一个所有者,以实现长期停滞不前的 CPU 性能的阶跃函数增益。在一组 25 个最初选择的工作负载(其中 15 个一直持续到最终评估)中,与现代的、经过硅验证的超标量(双发、有序)CPU 内核相比,我们实现了 4.59 倍的每瓦性能倍数。我们的人工智能系统在编译器、ISA、架构、微架构、RTL、验证和最终 GDS 上自主迭代。当我们仔细研究发现的架构原语时,我们惊讶地发现新颖的硬件实现和运行时功能,否则很难构建。尽管 CPU 核心改进停滞不前,但我们能够将工作负载概念一直应用于最终的 GDS,并证明性能/W 和性能/面积的阶跃函数增加。我们相信,随着人工智能系统变得更加强大,我们今天所知道的每一类芯片,从数据中心级 CPU,到人工智能加速器,再到网络交换机和网卡,都将经历类似的基本架构转变。交互网络简介 主流编程语言在为通用 CPU 编译时隐藏了程序各部分之间的依赖关系。任何代码都可以通过共享的可变状态读取或写入任何变量,因此现代 CPU 硬件会假设最坏的情况,并在运行时重新发现哪些指令实际上相互依赖。此外,自 2000 年代初以来,单核 CPU 性能已基本停滞,促使人们转向大型多核 CPU,如 Intel Xeon、AMD Zen 和 NVIDIA Vera。这迫使 CPU 维持每个核心都看到相同内存的错觉,而保持这种错觉的一致性和高性能需要深层缓存层次结构和一致性协议,这些协议会占用空间和功耗,并且扩展性较差。交互网络 1 采用不同的方法。程序是一个节点图,计算是通过重写通过其端口连接的节点对来进行的。每次重写只触及图表的一小部分。由于每个节点只有一个主端口,因此这些活动对中没有两个会重叠,因此可以按任何顺序或一次全部重写它们,并且结果始终相同。交互网络也是线性的:每个值都只使用一次,因此不存在需要硬件保护的共享可变状态。 Vine 2 等语言将看似普通的程序直接编译为交互网络。对于交互网络以及为什么它们适合硬件的精彩介绍,我们强烈推荐 Tendrils 的“On Interaction Nets”。 3 图 1. 五个皇后,两种方式。在左边,一个 C++ 程序一次一步地遍历搜索树。在右侧,与交互网络相同的搜索同时探索多个分支:3,183 个交互,关键路径只有 262 个步骤。图 1 显示了一个小型搜索问题的差异,将五个皇后放在一个 5×5 的棋盘上。顺序程序一次访问一位候选人。交互网络公开了其所有独立工作:平均而言,每一步大约有 12 个交互准备好运行。为了获得这种并行性,程序没有被重写;依赖关系根本就没有被丢弃。理论上来说,这应该有两大优势。第一个是免费的多线程:并行性直接来自程序,而不是不同级别的粗粒度和细粒度并行性。没有线程、锁或竞争条件,也没有传统核心用来将其挖掘出来的无序机制。第二个是,由于每个值都有一个所有者,并且每个步骤都是本地的,因此数据可以存在于其使用位置旁边的小型本地内存中。这消除了传统芯片在大型缓存子系统上花费的大部分面积和功耗,以及保持这些缓存一致的系统级复杂性。 Process Frostbite 的设计采用了零架构先验。我们遵循下面的流程,一路上骑着多个特工群。图 2. Frostbite 计划从第一个提案到消融:关键事件、工作阶段以及代理创建的工作树(绘制了每个分支)
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱