谷歌通过两款新的专用芯片扩大了其人工智能硬件产品组合

谷歌正在加强其芯片制造业务，因为该公司寻求减少其云计算业务对其他公司生产的芯片的依赖。谷歌周一推出了两种新的张量处理单元（TPU）变体，这是用于人工智能工作负载的内部开发芯片，将其芯片组合扩展到更多用例：机密推理和用于大型工作负载的更大内存容量。新单元 TPU 8tx 和 TPU 8i Max 是该公司今年 4 月推出的第八代芯片的一部分，并以这些芯片提供的功能为基础，即更强的推理能力和对大型训练要求的支持。谷歌在博客文章中表示，TPU 8tx 是与 AMD 共同设计的，基于 TPU 8t 芯片，专门用于秘密训练和运行人工智能模型。该公司写道，该芯片“将安全性直接构建到硬件层中，即使在活跃使用时也能保护和隔离敏感数据和模型权重”。该芯片还具有一个定制推理网络，可以在训练的同时运行推理，因此可以用来动态提取和训练小型模型。据谷歌称，这种能力对于公司可能希望在其专有数据上训练模型而无需在设备之间移动数据的情况可能非常有用。与此同时，TPU 8i Max 基本上结合了该公司 4 月份推出的两款专注于推理的 TPU 8i 芯片，将内存容量、处理能力和带宽提高了一倍，但在一个封装中。结果是一款芯片可以让人工智能模型在查询过程中处理更大范围的信息。该芯片推出之际，微软、亚马逊等超大规模企业，甚至 OpenAI 和 Anthropic 等人工智能实验室都在开发自己的人工智能专用半导体产品线和配套软件，以减少对 Nvidia 主导地位的依赖。这一消息发布之际，英伟达正处于一个特别脆弱的时刻，该公司首席执行官黄仁勋周末承认与一名据称是中国间谍的人有染。