为什么苹果、小米的 AI 电脑，都在死磕「内存墙」｜AI 器物志

为什么苹果、小米的 AI 电脑，都在死磕「内存墙」｜AI 器物志 智能手机统治了过去十几年的数字生态，它是注意力的黑洞，是我们最私密的随身之物。但手机从设计之初就是为「人盯着它」而生的——它的全部逻辑，都止于屏幕。 AI 的需求却恰恰相反：它需要持续感知物理世界——见你所见，听你所闻，随时在场，而非等你解锁屏幕才醒来。 当 AI 真正成为一种基础能力，它迟早要从屏幕里破壳而出，寻找属于它自己的形状。这将是一个漫长的探索和演化过程。 「AI 器物志」栏目由此而来，爱范儿想和你一起持续观察：AI 如何改变硬件设计，如何重塑人机交互，以及更重要的——AI 将以怎样的形态进入我们的日常生活？ 这是「AI 器物志」的第 23 篇文章。 苹果前不久刚发的新 Mac，再次刷新了「AI 电脑」的性能预期。小巧的 Mac mini 被官方直接定义成了全天候跑 Agent 的生产力工具，而专业级的 Mac Studio，更是直接给到了最高 512GB 统一内存。 不过，它们真正「强」的地方，藏在一个过去大家都不怎么关心的参数里—— 内存带宽 。 标准版 M6 的统一内存带宽来到 170GB/s，M5 Pro 版本推到了 307GB/s，顶配的 M5 Ultra 更是直接跨过 TB 级大关，干到了 1.2TB/s 。 为了配合这次新品，苹果还给 Mac mini 拍了一支「牛来」宣传片，让小巧的银色方盒子长出了粗壮的肌肉手臂。 无独有偶，就在新 Mac Studio 发布前一天， 小米公布的端侧 AI 加速芯片玄戒 O100，同样把内存带宽做到了 1.22TB/s ；而英伟达目前最新的消费级旗舰显卡 RTX 5090，凭借 32GB GDDR7 显存，带宽更是顶到了接近 1.8TB/s。 桌面 SoC、端侧专用 NPU 与独立 GPU 的架构路径大相径庭，但无论是做电脑的、做手机芯片的，还是做显卡的，大家都在不约而同地干同一件事——让内存里的数据跑得更快。 AI 算得越来越快，也越来越容易「吃不饱」 芯片厂费这么大劲去拼带宽，说到底，是因为今天的 AI 越来越能算，同时也越来越容易被内存「饿着」。 这里很多人的第一反应往往是： 内存不就是看容量吗？大就是好，好就是大！ 其实容量和带宽完全是两码事。 容量决定的是这台电脑能装下多大的模型，而带宽决定的，是这些数据每秒能以多快的速度喂给计算核心。 大模型一旦跑起来，最消耗资源的往往不是单纯的计算，而是贯穿始终的「搬数据」。 图｜LLM 预填充\-输出示意｜NVIDIA 我们平时在对话框里看到文字一个接一个往外冒，在自回归生成（Decode）阶段，计算单元每生成一个新 token，就必须把内存里几十亿、上百亿的参数权重完整读取一遍。 就像后厨里手速极快的大厨，翻炒只要两分钟，但配菜师傅半天才能送来一盘切好的食材。大厨炒得再快，大部分时间也只能握着锅铲在灶台前干等。 不管是 CPU、GPU 还是 NPU，现在都卡在这道坎上。算力一路狂飙突进，但内存通道的拓宽速度却跟不上。模型小的时候还能凑合，一旦上了几十 B、几百 B 的大模型，每吐一个词都要吞吐海量数据。 计算单元再能算，也只能把大把时间耗在等内存喂饭上。这种现象在体系结构中被称为 memory-bound（内存受限）。 图｜整理自互联网公开信息 更快的内存，也更贵 很多人看内存价格，直觉上总觉得「32GB 肯定比 16GB 贵，512GB 自然比 32GB 贵」。但如果把视线放进半导体供应链，真正的规律其实是： 越大的内存越贵，但越快的内存，贵得呈指数级上升。 要让海量数据跑得更快，不能只靠堆颗粒，还得用更宽的位宽、更高频的接口，以及极其复杂的先进封装与垂直堆叠。以今天 AI 服务器标配的 HBM（高带宽内存）为例，它把多层 DRAM 芯片垂直打孔堆叠（TSV），制造难度和芯片面积远超传统内存。 这种对超高带宽的极端渴求，正在上游掀起一场全球性的「产能大迁徙」。 TrendForce 的调查数据显示，由于 AI 数据中心对 HBM 和高规格服务器 DDR5 的需求暴增，三星、SK 海力士和美光三大存储巨头正在全力将有限的先进晶圆产能向企业级倾斜。 这直接挤压了留给消费级 PC DRAM 的供给空间，即便在传统淡季，合约价格依然持续环比上涨。 去年底，美光正式宣布逐步退出 Crucial（英睿达）消费级内存业务，把供应链资源全面倒向规模更大、利润更高的战略客户；而最近国内 SK 海力士的第三方品牌授权店终止运营，也折射出上游原厂对消费级渠道的冷落。 图｜美光 普通装机者面对价格犹豫不决时，一抬头才发现：自己加装一根内存条的预算，无形中正和全球 AI 数据中心抢夺着同一批先进晶圆。 为了不让算力卡在数据搬运上，芯片界从不同维度给出了各自的解法： 1. 物理加宽车道：GDDR7 与 HBM 最直观的办法依然是「大力出奇迹」。RTX 5090 采用 512-bit 超宽位宽配合 GDDR7，硬把显存带宽拉到了 1.8TB/s；AI 数据中心则在 GPU 身边紧挨着塞进一圈 8 层、12 层的 HBM 堆栈。这条路简单粗暴，但代价极其高昂，属于用最贵的工艺换取极致的吞吐。 图｜NVIDIA 2. 把存储搬到计算隔壁：玄戒 O100 的 3D 堆叠 既然平面走线太长会有延迟和功耗，那就向立体空间要效率。小米玄戒 O100 采用了晶圆级垂直堆叠（Wafer-on-Wafer），直接把两层 DRAM 晶圆压在 NPU 计算晶圆的正上方。物理距离缩短到了微米级，数据不用在电路板上长途跋涉，用超短的垂直互联一口气换来了 1.22TB/s 的端侧带宽。 图｜小米 3. 消除冗余搬运与外部高速扩展：统一内存与雷雳 5 在系统架构层面，苹果的统一内存解决的是「避免无谓倒手」。传统 PC 里 CPU 内存与 GPU 显存各占一边，数据要在两块内存之间来回复制；而在 Apple Silicon 统一内存体系下，所有计算核心直接共享同一块内存池，省去了繁琐的跨总线拷贝——少跑一趟，本身就是在抢时间。 图｜M1 Ultra 的统一内存架构｜Apple 而当单台设备的内存装不下超大模型时，高速数据通道还在往机箱外延伸。M5 Pro 版本的 Mac mini 配备了 3 个雷雳 5 端口，支持将多台设备直接串成集群；而在 Mac Studio 上，通过雷雳 5（最高 120Gb/s）和 RDMA 技术，4 台 Mac Studio 组建的分布式推理集群，能跑出接近单机 3 倍的吐字吞吐。 图｜Mac Studio 集群｜Jeff Geerling 4. 把计算搬到内存旁边：PIM 与存内计算 再往前走一步，则是更大胆的颠覆： 如果数据搬运代价太大，能不能干脆把计算挪到存储旁边，让数据留在原地？ 还是用前面后厨做菜来理解：GDDR7 和 HBM 是把过道拓宽；玄戒 3D 堆叠是把备菜台挨着炒锅放；苹果统一内存是共用一个主备料盒；而 PIM（Processing-in-Memory）和存内计算，则是工程师在琢磨—— 有些洗菜切菜的基础备菜工作，能不能直接在仓库里顺手做完，免得每次把整筐生料大老远端给大厨去折腾？ PIM 会把部分计算单元直接塞进内存颗粒附