算力之后，存储成为AI应用落地的“胜负手”

过去两年，谈论AI的人几乎把所有注意力都给了GPU。 英伟达 的市值、H100的供货周期、 台积电 的先进制程，算力是舞台中央的主角。但在舞台侧幕，存储行业的变革正在发生：GPU越来越快、越来越贵，而给GPU“喂饭”的存储系统跟不上了。 五年前，存储还只是配角，负责存放训练数据、保存检查点,在GPU需要时提供数据。但今天,当大模型参数量突破万亿级别、推理Token消耗量一年增长近20倍时,存储系统正被迫从幕后走向台前,成为制约AI落地的核心瓶颈。 存储跟不上AI的节奏 OpenRouter与a16z联合发布的《State of AI》报告显示，OpenRouter平台的年Token处理量在一年内从约10万亿飙升至超过100万亿，单日峰值已突破1万亿。训练在涨，推理在涨，涨得比所有人的预算都快。 与此同时，中国信通院发布的数据显示,全球AI推理算力市场规模从2021年的14.04亿美元跃升至2024年的139.58亿美元,年均复合增长率达到66.3%。更关键的是,推理工作负载占比从2023年的41.3%持续攀升,预计2026年将达到70.5%,实现对训练算力的全面超越。这意味着,AI算力市场正经历从"训练驱动"到"推理驱动"的根本性转变。 推理市场和需求的爆发式增长带来了一个问题：作为数据搬运工的内存和SSD并没有以同样的速度变快。于是如今业内经常看到最贵的芯片经常处于“待机等数据”的状态，而存储设备，成了决定整个AI系统性价比的关键变量。这不是某一家厂商的危机，而是整个存储行业的一次集体考题。 TrendForce集邦咨询的数据同样印证了这一趋势:2025年全球企业级SSD市场规模达280亿美元,2026年第一季度全球前五大企业级SSD营收达201亿美元,环比增长85.8%。三星电子保持第一名,2025年第四季营收近36.6亿美元,季增49.7%;SK集团(含 SK海力士 和Solidigm)位居第二,营收32.6亿美元,季增超过75%;美光位居第三,营收超过14亿美元,季增41.4%。 训练时代，SSD像个仓库主要的工作是装下海量的文本、图片、视频，等GPU开工时按批送货，此外还需要写检查点。大模型训练时间通常需要数月，几千张卡里随时可能有卡掉队，所以要定期把模型参数和优化器状态落盘，出事时好从最近的检查点爬起来。这两件事对存储的要求很朴素：带宽要够大，容量要够多，别掉链子。 进入推理阶段后，情况发生了变化。存储从数据通路的旁支，被推上了主干道。 变化的根源在于Transformer架构的运行机制。模型每生成一个新Token，都需要计算其与前文所有词元之间的关联关系，这些中间结果被缓存为KV Cache。上下文越长，KV Cache越大，且随上下文长度线性增长。当前主流模型普遍支持百万级上下文，单条会话的 KV Cache即可占用数GB至数十GB空间。而HBM是全数据中心单位成本最高的存储空间，以其承载长上下文，在成本上并不具备可持续性。 这就造成了KV Cache向外溢出。首先是主机DRAM，进而下沉至SSD。存储的角色由此从数据容器，转变为GPU的扩展内存。这一位移带来的直接后果是：存储层的任何延迟抖动，都会被转化为 GPU的空转时间。 需求结构的变化，已经在市场规模上得到验证。据Counterpoint Research 的季度追踪，2026年第二季度企业级SSD已占全球 NAND 闪存出货容量的48%，而一年前这一比例仅为26%，该机构预计到2026年底将超过一半。 面对推理时代对存储的需求，西安三星电子研究所存储解决方案部技术总监何兴把问题归结为三个层面。 首先是数据“喂”不饱GPU。传统的存储系统是为CPU设计的。当GPU需要数据时，数据必须先经过CPU、再经过主机内存，才能最终到达GPU，这个过程中，每一步都在消耗时间和资源。三星的实测数据显示，在4KB小I/O条件下，系统实际只用了接口带宽的约27%，其余73%被软件开销“吃掉了”。何兴直言：“传统的PCIe、NVMe发展了很多年，有软件负担，要兼顾老设备和复杂情况。但在AI场景下，这些历史包袱有可能被简化。” 其次是KVCache的“写放大”困局。大模型推理中，KVCache是维持长对话上下文的关键。但当KVCache被卸载到SSD时，不同请求的KV数据交错存储，一旦某条数据过期，SSD必须将同一块中其他有效数据重新写入，但这大幅缩短了SSD的使用寿命，也拉低了系统吞吐。 第三是万亿参数模型装不进显存。当前主流大模型已普遍转向 MoE（混合专家）架构，其核心优势在于稀疏激活：每个Token仅需唤醒少量专家，模型规模得以大幅扩张，而算力开销不会同比例上升。但其代价是，全部专家权重仍需常驻显存。算力开销因此得到控制，显存占用并未同步下降。万亿参数模型的权重规模远超单机 HBM容量，只能下沉至到系统内存和SSD，而决定模型实际吞吐的，正是SSD的随机读取性能。 这三个新的需求将存储系统推到了台前，过去几十年，存储的设计思路是围着CPU转。但如今行业必须回答一个问题：存储，该怎么变？ 硬件提速，软件减负 针对前文提到的三个新需求，三星半导体Memory战略规划总监冯方将产业的应对路径归纳为两个方向：一是提升硬件本身的性能与容量，二是压缩软件栈的冗余开销。三星近两年的产品与技术布局，提供了一个相对完整的观察样本。 先说硬件，竞争的主角首先是HBM。这个市场的座次这两年发生了戏剧性变化。SK海力士凭借多年深耕，成为英伟达HBM的核心供应商；但三星电子正在快速追赶，在HBM4E的送样节奏上抢先一步——2026年5月29日，三星率先向全球主要客户交付业界首批12层HBM4E样品；约三周后，SK海力士于6月18日跟进，向主要客户交付12层HBM4E工程样品。 在技术规格上，HBM4E相较前代实现了显著跨越。三星12层HBM4E单堆栈容量达48GB，可提供稳定的14Gbps引脚传输速度，性能可扩展至16Gbps，单堆栈带宽高达3.6TB/s；能效较HBM4提升16%以上，热阻改善超14%。SK海力士的12层HBM4E同样实现48GB容量，单引脚最高数据处理速率达16Gbps，能效提升20%以上，热阻改善17%。双方均采用12层堆叠达成48GB容量，用更少的堆叠层数实现了更高的容量密度，直接回应了AI训练与推理对内存带宽和容量的持续攀升的需求。 三星作为HBM市场先行者，其优势被三星半导体Memory战略规划总监概括为概括为“端到端整合”。全球范围内能同时自研NAND颗粒、DRAM、主控芯片并拥有强大固件能力的厂商屈指可数。这意味着当头部云厂商提出定制需求时，三星可以在内部闭环完成底层逻辑修改，而无需像主控外购的厂商那样与第三方来回拉锯数月。 这种垂直整合在具体产品上体现为几个标志性成果。 在内存层面，三星率先押注CXL。自2019年CXL联盟成立以来，三星一直担任董事会成员，在此次ODX大会上，三星展示了最新的CMM-D 320内存模块，该产品基于CXL 3.2协议，提供128GB和256GB两档容量。延迟上，其器件级访问延迟约110纳秒（三星测试数据）——这一水平已非常接近本地DDR内存80纳秒的物理延迟。配合64字节Cache Lin