从 Rollout 到权重同步：Mooncake 如何支撑高性能强化学习系统｜QCon上海

从「构建 AI」到「驾驭 AI」，100+ 实战案例拆解 AI Native 时代的工程新实践！ 2026 年 QCon 全球软件开发大会大会 · 上海站 " 将于 10 月 22 日—24 日举办，聚焦 Harness AI 时代的工程实践，围绕 AI Native 架构、Agent Runtime、AI Infra、Data Systems、Agent 安全与可观测、Loop Engineering、Vibe Coding、具身智能与世界模型、端云协同等前沿技术方向，邀请全球技术社区与产业一线的实践者，系统性分享前沿洞察与实战经验，共同探索 AI 从能力到系统、从实验到生产的真实路径。 在这一背景下， 2026 年 QCon 全球软件开发大会大会 · 上海站 "正式启动。本次大会将于 10 月 22 日—24 日举办，聚焦 Harness AI 时代的工程实践，围绕 AI Native 架构、Agent Runtime、AI Infra、Data Systems、Agent 安全与可观测、Loop Engineering、Vibe Coding、具身智能与世界模型、端云协同等前沿技术方向，邀请全球技术社区与产业一线的实践者，系统性分享前沿洞察与实战经验，共同探索 AI 从能力到系统、从实验到生产的真实路径。 Mooncake社区Maintainer马腾博士已确认出席 “ AI Infra：算力效率决定规模化落地 "” 专题，并发表题为《 从 Rollout 到权重同步：Mooncake 如何支撑高性能强化学习系统 "》的主题分享。强化学习系统的性能瓶颈不仅来自模型训练，也来自 Rollout 数据传输、经验回放和权重同步。Mooncake 面向 RL 场景提供高性能数据面：通过结构化对象、DataProto/typed-ragged、BufferPool 及 RDMA 优化 Rollout 数据流，并接入 Miles 替代 Ray Object Store，支持同步和 Fully Async 两种执行模式。在权重更新方面，Mooncake 同时支持 NCCL Broadcast、TransferEngine P2P RDMA 和 disk-delta，在 Kimi-K2 场景中 P2P 方案约实现 7 倍加速。此外，它还支持 TP/PP/EP/DP 异构 Reshard、Store 权重快照及 MoE 稀疏 Delta，为大规模 RL 训练提供高吞吐、低延迟、可扩展的数据与权重基础设施。在本次演讲中，马腾博士将围绕这些话题展开深入分享。 马腾博士是 KVCache 开源项目 Mooncake（6.5K Star）的 Maintainer。目前，Mooncake 已经有阿里云、清华、月之暗面、蚂蚁、字节、小红书、趋境科技等多方参与，并成功接入 vLLM、SGLang、TRT-LLM、Dynamo 等社区。同时，他也是 SGLang、RBG 等社区的 Committer。 他在 SOSP、ASPLOS、ATC、SC、EuroSys、VLDB、TPDS 等顶级会议和期刊上发表论文三十余篇，相关成果获授权美国、中国专利 10 项。他曾入选 CCF 系统软件专委会优秀博士论文激励计划，并担任 PPoPP、FAST、DASFAA、TPDS、ICME、TC、JSC 等国际会议/期刊的程序委员会成员和审稿人。他在本次会议的详细演讲内容如下： 演讲提纲1. 强化学习系统的整体流程Rollout、数据传输、Learner 更新与权重下发同步 RL 与 Fully Async RL 的执行模式RL 系统中的数据面与控制面2. RL 场景面临的系统挑战Rollout 数据规模大、结构复杂Actor 与 Learner 之间的数据传输开销高权重更新频繁且容易阻塞采样不同并行策略下的权重布局不一致MoE 模型权重同步成本高3. Mooncake 的高性能 RL 数据面结构化对象与 DataProto 数据组织typed-ragged 对变长序列数据的支持BufferPool 降低内存分配和拷贝开销RDMA 加速 Rollout 数据传输接入 Miles 替代 Ray Object Store4. 同步与 Fully Async Rollout同步 Rollout 的数据流与权重更新流程Fully Async 模式下 Actor、Rollout 与 Learner 解耦数据生产、消费和缓存的并行化吞吐、延迟与训练稳定性的权衡5. Mooncake 的权重更新机制NCCL Broadcast：适合高带宽集体通信TransferEngine P2P RDMA：实现点对点高效传输disk-delta：降低权重更新的数据传输量Kimi-K2 场景下 P2P 约实现 7 倍加速6. 异构并行与大模型支持TP、PP、EP、DP 之间的异构 ReshardStore 权重快照与快速恢复MoE 稀疏 Delta 更新不同集群和硬件拓扑下的权重调度7. 生态集成与生产实践Miles 中的 RL 数据面应用与 SGLang、vLLM 等推理框架协同Rollout、训练和权重服务的统一基础设施面向生产环境的稳定性、可观测性与容错8. 未来发展方向面向 RL 的统一数据对象和传输接口更高效的异步权重同步与版本管理面向 MoE 和超大模型的稀疏更新推动 Mooncake 与更多开源 RL 项目协同优化实践痛点不同 RL 框架之间的数据结构和接口缺乏统一标准。Ray Object Store、网络传输和权重同步容易形成系统瓶颈。Fully Async 场景需要处理数据一致性、权重版本和训练稳定性。TP/PP/EP/DP 异构 Reshard 适配复杂，跨框架推广成本较高。需要与更多开源项目共同验证性能并完成协同优化。前沿亮点面向强化学习 Rollout 数据面进行系统级优化通过 DataProto、typed-ragged、BufferPool 和 RDMA 提升数据传输效率。同时支持同步与 Fully Async RL 工作流。基于 P2P RDMA、NCCL 和 disk-delta 构建多路径权重更新机制。支持异构并行 Reshard、权重快照和 MoE 稀疏 Delta。已在 Miles、SGLang、vLLM 等生产生态中得到应用。听众收益理解大模型强化学习中 Rollout、数据传输和权重同步的关键瓶颈。掌握 Mooncake 在 RL 数据面和权重更新方面的核心能力。了解同步与 Fully Async RL 的系统实现思路。学习如何利用 RDMA、BufferPool 和结构化数据降低传输开销。了解异构并行 Reshard 及 MoE 稀疏权重更新的实践方法。获得将 Mooncake 集成到其他 RL、推理和训练框架中的设计思路。 除此之外，本次大会还策划了 Loop Engineering "、 千行百业 Agent 创新实践 "、 Agent 自主进化：从记忆到持续学习 "、 Agent as a Service "、 Vibe Coding 时代的新质量债 "、 理性驾驭 AI 的 SRE 可靠性工程 "、 金融 AI