开源推荐
morning
GitHub 热门项目：xDiT
摘要
GitHub项目：xDiT 仓库地址：https://github。
xDiT
DiTs
parallel
https
for
2026-05-24
1 阅读
GitHub Trending
GitHub 项目：xDiT
仓库地址：https://github.com/xdit-project/xDiT
星级：2622 | 作者：xdit-project
项目描述：xDiT：具有大规模并行性的扩散变压器（DiT）的可扩展推理引擎
===================================================
自述文件内容：
<图片>
目录
- [? 认识 xDiT](#meet-xdit) - [?开源社区](#updates) - [? 支持的 DiT](#support-dits) - [? 性能](#perf) - [? 快速入门](#快速入门) - [?️ ComfyUI 与 xDiT](#comfyui) - [✨ xDiT 的军火库](#secrets) - [并行方法](#parallel) - [1. PipeFusion](#PipeFusion) - [2.统一序列并行](#USP) - [3.混合并行](#hybrid_parallel) - [4. CFG 并行](#cfg_parallel) - [5.并行 VAE](#parallel_vae) - [单GPU加速](#1gpuacc) - [编译加速](#compilation) - [缓存加速](#cache_acceleration) - [?开发指南](#dev-guide) - [? 历史和寻找贡献](#history) - [? 引用我们](#cite-us)? 认识 xDiT
扩散变压器 (DiT) 正在推动高质量图像和视频生成的进步。 随着 DiT 中输入上下文长度的不断增加，注意力机制的计算需求呈**二次方**增长！ 因此，多 GPU 和多机器部署对于满足在线服务的“实时”要求至关重要。并行推理
为了满足DiTs应用的实时需求，并行推理是必须的。 xDiT 是一款推理引擎，专为大规模并行部署 DiT 而设计。 xDiT 为扩散模型提供了一套高效的并行方法以及计算加速。 xDiT的概述如下所示。 <图片>
1. 序列并行，[USP](https://arxiv.org/abs/2405.07719)是我们结合DeepSpeed-Ulysses、Ring-Attention提出的统一序列并行方法。
2. [PipeFusion](https://arxiv.org/abs/2405.14430)，序列级管道并行，类似于[TeraPipe](https://arxiv.org/abs/2102.07988)，但利用了扩散模型的输入时间冗余特性。
3. 数据并行：处理多个提示或从单个提示跨图像并行生成多个图像。
4. CFG Parallel，也称为Split Batch：使用c时激活