开源推荐
morning
GitHub 热门项目：LlamaGen
摘要
GitHub项目：LlamaGen 仓库地址：https://github.com/FoundationVision/LlamaGen Stars：1965 | 作者：FoundationVision 项目描述：Autoregressive Model Beats Diffusion: 🦙 Llama for Scalable Image Generation ==================...
https
models
generation
image
github
for
and
LlamaGen
Image
img
2026-08-21
1 阅读
约6分钟阅读
GitHub Trending
字号:
GitHub 项目：LlamaGen
仓库地址：https://github.com/FoundationVision/LlamaGen
明星：1965 | 作者：FoundationVision
项目描述：自回归模型击败扩散：🦙 Llama 用于可扩展图像生成
===================================================
自述文件内容：
# 自回归模型击败扩散：🦙 Llama 用于可扩展图像生成
[](https://huggingface.co/spaces/FoundationVision/LlamaGen)
[](https://arxiv.org/abs/2406.06525)
[](https://peizesun.github.io/llamagen/)
该存储库包含预训练的模型权重和训练/采样 PyTorch(torch>=2.1.0) 代码
> [**自回归模型击败扩散：用于可扩展图像生成的 Llama**](https://arxiv.org/abs/2406.06525)
> [孙培泽](https://peizesun.github.io/)、[姜毅](https://enjoyyi.github.io/)、[陈手发](https://www.shoufachen.com/)、[张世龙](https://jshilong.github.io/)、[彭冰月]()、[罗萍](http://luoping.me/)、[泽欢元](https://shallowyuan.github.io/)
>
香港大学、字节跳动
您可以在 [](https://peizesun.github.io/llamagen/) 上找到更多可视化效果
## 🔥 更新
- [2024.06.28] 用于文本条件图像生成的图像分词器和 AR 模型发布！尝试一下！
- [2024.06.15] vLLM支持从100M到3B参数的所有模型！
- [2024.06.11] 发布了用于类条件图像生成的图像分词器和 AR 模型！
- [2024.06.11] 代码和Demo发布！
## 🌿 简介
我们引入了 LlamaGen，这是一个新的图像生成模型系列，它将大型语言模型的原始“下一个标记预测”范式应用于视觉生成领域。对于视觉信号上“没有归纳偏差”的普通自回归模型（例如 Llama）是否可以在适当缩放的情况下实现最先进的图像生成性能，这是一个肯定的答案。我们重新检查图像标记器的设计空间、图像生成模型的可扩展性属性及其训练数据质量。
在此存储库中，我们发布了：
* 两个下采样比为 16 和 8 的图像标记器。
* 七类条件生成模型，参数范围从 100M 到 3B。
* 两个700M参数的文本条件生成模型。
* [](https://huggingface.co/spaces/FoundationVision/LlamaGen) 中的在线演示，用于运行预训练模型。
* 支持 vLLM 服务框架，可实现 300% - 400% 的加速。
## 🦄 ImageNet 上的类条件图像生成
### VQ-VAE 模型
方法|参数|代币 |射频识别 (256x256) |重量
--- |:---:|:---:|:---:|:---:
vq_ds16_c2i | 72M | 16x16 | 16x16 2.19 | 2.19 [vq_ds16_c2i.pt](https://huggingface.co/FoundationVision/LlamaGen/resolve/main/vq_ds16_c2i.pt)
vq_ds16_c2i | 72M | 24x24 | 24x24 0.94 | 0.94上面
vq_ds16_c2i | 72M | 32x32 | 32x32 0.70 | 0.70上面
vq_d