英伟达换思路！下一代Groq AI芯片放弃超大缓存：改用堆叠内存

快科技10月21日消息， 人工智能半导体领域近日传出架构剧变信号，以高速SRAM设计闻名的芯片公司Groq，被曝正在其下一代芯片中引入3D堆叠DRAM封装技术。 这一举措标志着Groq正试图摆脱传统SRAM架构在容量上的局限，转而通过垂直堆叠内存裸片来大幅提升显存规格，以应对超大规模AI模型的推理需求。 据行业内部人士透露，被英伟达实质性收购后的Groq正在积极评估将SRAM替换为DRAM的方案：目前AI芯片主要采用2D封装，而Groq计划引入的3D封装技术能够将多个半导体裸片垂直堆叠，使芯片像积木一样向上生长。 这种设计能够在维持较小芯片面积的同时，显著提升电力传输效率和存储容量。 技术细节方面，Groq计划采用名为3DS的方案，该技术的核心在于利用TSV技术，在DRAM芯片内部打穿数千个微型孔洞进行垂直互连。 这种做法就像是为内存建立了一座摩天大楼，通过垂直电梯连接各层，从而在单位面积内提供远超传统设计的显存密度。 与目前高端显卡常用的HBM不同，3DS技术有着明显的侧重点。虽然两者都使用了TSV堆叠工艺，但HBM的核心目标是追求极致的数据交换速率，而3DS则是在保持现有DRAM标准接口协议的前提下，将主要精力放在了存储容量的扩张上。 这对于需要加载海量参数的AI推理任务而言，无疑是更加务实的降本增效方案。 长期以来，Groq的LPU架构因其极高的推理速度备受关注，但其依赖的SRAM容量极小，导致单颗芯片在面对千亿级参数模型时显得捉襟见肘。 DRAM虽然在原生读写速度上略逊于SRAM，但其大容量特性在复杂模型部署中更具优势。通过3D堆叠技术，Groq试图在保持一定速度优势的同时，彻底解决存不下的问题。