AMD 收购 Taalas，通过在硅中蚀刻模型来提高推理性能

人工智能和机器学习 AMD 收购人工智能芯片初创公司 Taalas，通过将模型蚀刻到硅片中来提高推理性能 早期技术演示显示特定于模型的集成电路每秒可生产多达 17,000 个代币 Tobias Mann Tobias Mann 系统编辑于 2026 年 8 月 6 日星期四// 21:05 UTC 在 AMD 颠覆 Nvidia 在 AI 硬件领域主导地位的最新举措中，House of Zen 收购了 AI芯片公司 Taalas，该公司将模型权重直接烘焙到硅中，这一过程有望将推理性能提高一个数量级或更多。周四收盘时宣布的这笔交易似乎与去年 12 月 Nvidia 与 Groq 达成的 200 亿美元授权协议的背景大致相同：让人工智能代理（如代码助手）所珍视的高性能“优质”推理服务运行速度更快、成本更低。 AMD没有透露交易条款，但据我们了解，这是一次实际收购，而不是收购。 Taalas 成立于 2023 年，总部位于多伦多，其推理方法与传统 GPU 或支持 Groq LPU 或 Cerebras 晶圆级加速器的数据流架构截然不同。 REG AD 特定于模型的集成电路 REG AD 该初创公司的芯片不依赖 HBM 来存储模型权重，而是将它们直接蚀刻到硅中。从某种意义上说，Taalas 的芯片实际上是特定型号的集成电路或 MSIC。也许更重要的是，塔拉斯的技术不仅仅是概念性的。今年 2 月，这家初创公司推出了首款采用台积电 6 纳米工艺技术制造的测试芯片，称为 HC1。最初的基准测试显示，该芯片以每秒 16,960 个令牌的速度为 Meta 的 Llama 3.1 8B 提供服务——去年 2 月宣布时，它比 Nvidia 的 GPU 快 48 倍，比 Cerebras 的加速器快 8.5 倍。虽然 Llama 3.1 以今天的标准来看已经很古老了，早在 2024 年中期就首次亮相，但这款标线大小的芯片实际上是为了证明这个概念。 Taalas 对其芯片的实际工作原理一直守口如瓶，但我们知道它的处理器由两个主要区域组成：蚀刻模型权重的掩模 ROM 调用结构，以及存储 KV 缓存和微调适配器的 SRAM 调用结构。对于今年夏天推出的第二代 HC2 芯片，Taalas 的目标是将参数数量增加到 200 亿个参数。这听起来可能不多，但就像使用 GPU 用于大型模型一样，权重可以使用管道并行性简单地分布在多个加速器上。如果每个芯片有 200 亿个参数，您只需要 50 个加速器即可支持万亿参数模型，而 AMD 恰好拥有机架级计算平台和内部系统设计团队，可以轻松满足这一需求。这比 Nvidia 最近推出的 LPX 系统要节省更多的空间和能效，后者需要几十个 GPU 和至少 2,000 个 Groq LPU 才能为同一模型提供服务。据我们了解，AMD 打算将其基于 Instinct 的 Helios 机架与基于 Taalas 技术的芯片配对，这意味着一种分散的架构，其中计算量大的即时处理在 GPU 上完成，而令牌生成则卸载到基于 Taalas 的加速器。 REG AD AMD 也有可能采用一种滴答式的节奏，客户最初在 Instinct 加速器上部署和验证模型，一旦满意，就过渡到 Taalas 加速器。目前我们只能推测，但 AMD 人工智能高级副总裁 Vamsi Boppana 在一份预先声明中对此表示：“AMD 正在构建一个全栈人工智能平台，让客户能够灵活地为每个人工智能工作负载部署正确的计算解决方案。”你最好真的喜欢这个模型虽然技术飞速发展，但如果你还没有弄清楚它，它会带来相当大的缺点。一旦部署了芯片，您就只能使用该模型。任何比 LoRA 适配器等更大的改变都需要重新设计芯片，这不仅昂贵而且耗时。人工智能热潮已近四年，新模型几乎每月都会推出。为了从 Taalas 的技术中受益，AMD 的客户必须真正确定他们选择的型号，这对某些人来说比其他人更容易。然而，如果这家初创公司可信的话，情况并不像听起来那么糟糕。虽然新模型需要重新设计，但不需要从头开始。相反，只需要改变两层金属，这要便宜得多，而且耗时更少。更多背景 Elon 承诺让 Nvidia 对明星拥有虚拟垄断地位 AMD 的 AI 蛋太少了，华尔街担心中国会通过开放模型闪电战加剧热度，因为美国模型制造商陷入恐慌 深入研究 Nvidia 的 Vera CPU 和为其提供动力的奥林巴斯核心 话虽如此，我们强烈怀疑这项技术将主要由 AI 模型开发者、他们的基础设施提供商和少数人工智能公司部署