智能AI
morning
为无状态 LLM API 构建会话数据系统：水合代理模式
2026-09-03
1 阅读
约1分钟阅读
Joseph Axisa
字号:
arXiv:2609.01834v1 公告类型：新 摘要：随着企业平台过渡到会话推理接口，LLM API 的无状态性质造成了架构差距。虽然无状态性为人工智能提供商提供了水平可扩展性，但它迫使客户端应用程序管理会话状态和语义记忆的全部负担。这项工作确定了 Hydration 代理模式，这是一种将会话持久性与推理引擎解耦的架构。该框架确保平台对会话数据的主权，同时实现安全、多阶段的语义基础。我们进一步提出上下文稳定授权来解决主权国家管理和 KV 缓存之间的权衡。
这篇文章对您有帮助吗？
订阅66必读
每日精选科技资讯，直达你的邮箱