首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 汽车 游戏 社会热点 开源推荐 医疗健康 归档 标签 关于
智能AI morning

英伟达HBM告急!下一代GPU受限,这块硬盘却抢走风头

摘要

新智元报道 当加密、压缩、索引、记忆和上下文服务靠近介质,SSD、DRAM、HBM与HBF的价值边界将被重新划分 AI Agent正在把计算机从「接到问题后完成一次模型调用」,变成持续观察、推理、调用工具、修改环境并保留状态的运行系统。 一次任务可能连续访问模型、记忆、向量索引、业务数据库、对象存储和网络服务,还会把工具结果、执行轨迹、用户偏好、临时上下文与审计记录不断写回。Agent运行时间越长...

Cache Agent 新智元报道 当加密 记忆和上下文服务靠近介质 SSD DRAM HBM与HBF的价值边界将被重新划分 Agent正在把计算机从 接到问题后完成一次模型调用
2026-08-11 1 阅读 约10分钟阅读 新智元
分享:
字号:
新智元报道 当加密、压缩、索引、记忆和上下文服务靠近介质,SSD、DRAM、HBM与HBF的价值边界将被重新划分 AI Agent正在把计算机从「接到问题后完成一次模型调用」,变成持续观察、推理、调用工具、修改环境并保留状态的运行系统。 一次任务可能连续访问模型、记忆、向量索引、业务数据库、对象存储和网络服务,还会把工具结果、执行轨迹、用户偏好、临时上下文与审计记录不断写回。Agent运行时间越长,价值越依赖数据能否被安全保存、正确检索、及时更新和低成本复用[1]。 这意味着存储不再只是Agent完成工作后的落盘终点,而会逐步进入Agent的感知、记忆和决策循环。AI SSD已经展示了第一批方向:保存模型与Adapter,承接被逐出内存的KV Cache,缩短冷启动,扩大可部署模型容量。再向前一步,SSD还可能在数据落盘时执行加密、压缩、去重、标记、索引、版本维护与生命周期治理,并为Agent Memory提供长期容量。 这种变化并非凭空出现。自加密盘已经可以在控制器内透明完成数据加解密;计算存储标准把压缩、加密、正则过滤和纠删码列为可由存储侧执行的功能;Samsung SmartSSD等产品也曾把数据库扫描和视频处理下沉到盘侧[4][5][7]。Agent时代的新意,是这些能力不再只服务通用数据处理,而开始围绕智能体身份、上下文、记忆、工具轨迹和Token成本重新组合。 未来市场中可能出现「安全SSD」「压缩SSD」「检索SSD」「记忆SSD」或「上下文SSD」等不同名称,也可能不会形成彼此割裂的硬件品类,而是汇合成可编程的功能型SSD:基础形态仍兼容标准存储,上层软件按场景发现和调用设备功能。 NVMe已经形成Computational Programs和Subsystem Local Memory等命令集,为设备侧程序发现、配置和执行提供标准化路径[6]。真正的产业问题不只是能否在盘内放一颗处理器,而是谁来定义数据语义、功能边界和端到端结果。 Agent不是一次调用 而是一条持续写入的数据链 传统聊天机器人最主要的持久对象是对话记录,Agent则会制造更复杂的数据图。它需要保存观察结果、工具输出、计划与反思、任务中间状态、用户画像、环境快照、检索证据和执行日志;模型侧还会产生KV Cache、Prefix Cache、Adapter、专家权重和Checkpoint。不同对象的更新时间、复用范围和安全等级并不相同,却共同决定后续推理能否延续。 Agent Memory也不等于把所有历史对话塞进向量数据库。近期从数据管理视角对Agent Memory的系统研究,将其拆为表示与存储、信息提取、检索与路由、维护四个模块,并指出没有一种架构能在所有工作负载上占优[9]。 Mem0等系统同样强调把原始对话转化为更紧凑、可复用的长期记忆,以降低长会话中的输入Token和检索负担[10]。这意味着存储层未来既要保存内容,也要保存内容如何被组织、更新和遗忘。 因此,Agent数据落盘需要比「写成功」更丰富的契约。一个记忆对象应当带有用户或Agent身份、租户、来源、时间、版本、权限、可信度、保留期限和可删除性;模型上下文还需要绑定模型版本、Tokenizer、位置编码与Adapter。只有命名空间和生命周期被明确,后续压缩、索引、缓存与共享才不会破坏语义边界。 功能型SSD在这条数据链中的合理角色,不是自行判断一段经历是否值得记住,而是在Runtime已经给出对象和策略后,靠近数据执行确定性工作。例如按租户选择密钥,按生命周期放置数据,压缩与去重可缩减的对象,维护索引页与元数据,优先完成即将被推理使用的回载,并把尾延迟、写放大和介质健康反馈给上层。语义决策留在Agent和Runtime,数据执行尽量靠近介质。 图1 Agent时代功能型SSD的能力谱。安全、内容缩减、索引、记忆、推理上下文与治理功能可以固化在设备,也可以由可下载程序、Runtime与存储节点共同完成。图为产业机制推演,计算存储与安全能力边界参考SNIA及NVMe规范[4][5][6]。 核心判断 Agent时代的SSD升级不是简单增加盘内算力,而是把标准块设备、可发现的近数据功能、对象语义和生命周期治理组合起来。越靠近介质的功能越应确定、可审计、可隔离;越靠近模型的决策越需要保留在Runtime。 自动加密已经存在,变化在于策略开始跟随Agent 「数据落盘自动加密」并不是未来概念。自加密盘会由控制器中的专用硬件对写入数据加密、读取数据解密,并通过密钥管理和策略控制实现透明的数据静态保护[5]。 对Agent系统而言,新的要求是加密粒度从整盘或单一命名空间进一步细化到用户、Agent、任务和对象:同一台端侧设备上的个人记忆与应用缓存不能互相越权,云侧多租户Agent的共享上下文也必须明确哪些可复用、哪些只能在一个权限域内读取。 NVMe规范已经引入由主机管理密钥和Key Per I/O等更细粒度能力[6],为每次I/O携带不同安全上下文提供了基础。未来的安全型SSD还可能把数据来源、时间戳、访问记录、完整性校验与可信删除组合起来,使Agent不仅能回答「我记得什么」,还能回答「这段记忆来自哪里、是否被修改、谁读取过、何时必须删除」。对金融、医疗、企业知识库和个人AI而言,证据链可能与检索速度同样重要。 加密也会改变其他近数据功能的顺序。加密后的字节流通常难以有效压缩和去重,因此内容缩减一般应先于加密[5];索引则需要区分明文特征、受保护元数据与可搜索密文的边界。功能型SSD的竞争力不只是拥有多少功能,而是能否用可验证的流水线把压缩、索引、加密、落盘和删除组织正确,同时避免任何一个环节扩大攻击面。 压缩、索引与记忆维护,可能成为下一批SSD功能 压缩是最容易形成商业闭环的功能之一。Agent会反复写入文本、JSON、日志、向量、Checkpoint和多媒体中间结果,其中相当一部分具有结构重复。若压缩在数据进入网络或NAND前完成,可以减少传输、物理写入和容量占用,并间接降低能耗与介质磨损。但压缩比、额外时延、CPU节省和写放大必须一起衡量;对已经量化或高度压缩的模型权重,继续压缩可能收益有限。 索引功能与Agent的关系更直接,因为记忆只有被正确召回才有价值。KIOXIA AiSAQ把向量与索引结构放在SSD上,以SSD友好的聚类和图搜索降低DRAM占用,并已展示单服务器数十亿规模向量检索[8]。需要严格区分的是,AiSAQ首先是一套以SSD为主要索引载体的软件技术,并不意味着普通SSD会自动生成Embedding或理解语义。更可能的产业路径是GPU、NPU或CPU负责生成表示,SSD与近数据程序负责组织索引、过滤候选和返回更小的结果集。 记忆维护则比索引更复杂。长期Agent Memory会发生新增、合并、冲突、修订、降权、过期与遗忘;同一事实还可能同时存在原始记录、摘要、向量和知识图谱表示[9]。未来的「记忆SSD」可以为这些版本提供原子更新、日志、TTL、冷热放置和安全删除,但不能仅凭相似度决定什么是真实记忆。记忆质量仍取决于上层的提取、路由、冲突处理与评估。 从产品角度看,这些功能未必需要每块盘都运行复杂模型。压缩、加密、哈希
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱