Nvidia 的 AI 优势正在超越 GPU

本周之前，关于 Nvidia 的主流故事是这样的：在人工智能热潮的最初几年，Nvidia 是最先进 GPU 的唯一来源，随着行业规模的扩大，GPU 变得异常盈利。在过去的几年里，像亚马逊和谷歌这样的超大规模企业已经开始制造自己的芯片，而英伟达不再是唯一的游戏，这让许多投资者想知道它的优势到底有多持久。这是一个引人入胜的故事，而且大部分都是真实的。在 2023 年初到 2025 年中期间，Nvidia 的市值增长了 10 倍，但由于对 GPU 竞争的担忧，Nvidia 的股价在过去一年一直处于较为温和的走势。自周三该公司公布财报以来，一种新的叙述已经形成，投资者开始意识到 Nvidia 的优势远远超出了 GPU 的范畴。随着人工智能的计算增长到千兆瓦级，编排已成为一项日益复杂的任务。毫不奇怪，Nvidia 已经构建了处理它所需的大部分最先进的硬件，这使该公司在 GPU 周围的系统中拥有巨大的优势，尽管它看到 GPU 本身的竞争日益激烈。尽管人们都在谈论计算作为一种商品，但以最高效率运行超大规模数据中心仍然非常困难，而且随着部署变得越来越大、越来越快，这一挑战只会越来越大。只需查看 Nvidia 实际销售产品的详细信息，您就可以了解其中的一些内容。该公司目前正在推出 Vera Rubin 架构，该架构将 Rubin GPU 与一系列其他单元配对，包括 Vera CPU、Groq 3 LPX 推理加速器以及用于存储和网络的类似机架。过去一周，我一直在与 Nvidia 的人员讨论这些系统的实际用途，结果令人惊讶。与 Rubin GPU 本身一样，它们是极其专业的系统，但它们不是通过代币进行搅动，而是确保 GPU 之外的所有内容尽可能高效地工作。如果 GPU 是引擎，那么这些就是汽车的其余部分。 Vera CPU 特别关注编排数据的问题。 “Vera 很重要，因为单个服务器或任何类型的计算平台中只能容纳这么多内存，”Nvidia 存储技术副总裁 Jason Hardy 告诉我。随着数据中心计算能力的扩大，内存容量也随之扩大，这就是像美光这样的公司在第二波基础设施热潮中致富的原因。但在正确的时间将这些数据传输到 GPU 并不简单——随着公司希望将每瓦代币消耗得越来越低，他们意识到这种流量方向是多么重要。 “我们看到这些操作的性能提高了 3 倍以上，其中 Vera CPU 允许加速，”Hardy 说。 “所以现在我们可以充分利用闪存的潜力，因为我们可以充分利用闪存而不会出现瓶颈。”您可以在 Nvidia 之外查看相同问题的版本。当 OpenAI 开发 Jalapeo 芯片时，主要关注点是通过最大限度地减少需要移动的数据量来完全避免这些挑战。 “我们设计 Jalapeo 是为了最大限度地减少数据移动和通信延迟，”该公司在本月早些时候的一篇博客文章中表示。 “它的大域允许整个工作负载保留在一个连接的系统中，最大限度地减少数据移动并帮助整个请求从头到尾保持快速和高效。”这是一种不同的方法，通过在一个集成芯片内执行工作负载来完全避免数据移动。但总体逻辑是相同的，通过更智能的流量控制来提高效率，而不仅仅是更多的处理器周期。这反过来又为公司竞争开辟了一个全新的基础设施层。这种对数据编排的新关注并不一定会成为 Nvidia 的胜利。该公司将不得不与竞争对手的芯片制造商和超大规模厂商竞争，就像与 GPU 竞争一样。但竞争已经进入了一个新的层面，在这个层面上，构建一个竞争对手的 GPU 比让整个系统高效工作更重要。至少在早期阶段，英伟达看起来拥有绝对的领先优势。