Qwen-Image-2512-FP8是什么:10分钟看懂Unsloth量化版AI绘图模型,最强开源文生图轻松跑起来
Qwen-Image-2512-FP8 是 Unsloth 基于最强开源文生图模型 Qwen-Image-2512 推出的FP8 / INT8 量化版 AI 绘图模型。它用更小的显存占用,几乎不损失出图质量,让普通显卡也能跑起来顶级开源文生图。本文带你在 10 分钟内看懂它是什么、两个量化版怎么选、如何快速跑起来。
一句话说清 Qwen-Image-2512-FP8 是什么
Qwen-Image-2512-FP8仓库提供的是 Qwen-Image-2512 大模型的"压缩版"权重:
- 基座模型:Qwen-Image-2512,Qwen-Image 系列 2025 年 12 月更新的文生图(text-to-image)基础模型,支持中英文提示词
- 量化:由 Unsloth 团队用 torchao 将 bf16 精度的 Transformer 压缩为 FP8 和 INT8 两种版本
- 目标:降低推理时的显存占用(reduced memory footprint),出图质量与原版高度一致
仓库采用Apache-2.0协议,可以自由使用。详细说明见 README.md。
量化是什么?为什么要压缩? 🤔
一句话:量化 = 用更少的比特数保存模型参数。
原始 Qwen-Image-2512 以 bf16(每参数 16 位)存储,体积庞大、显存吃紧。量化版做了两件事:
- 权重压缩:FP8 版把权重压到 8 位浮点(e4m3),INT8 版压到 8 位整数
- 动态激活量化:推理运行时对激活值动态量化,直接跑在低精度张量核心(low-precision tensor cores)上,速度更快、显存更省
加载量化检查点与"先加载 bf16 再实时量化"的结果逐位一致,所以压缩不偷质量。
基座模型有多强?Qwen-Image-2512 三大升级
量化版继承基座全部能力。相比 8 月版 Qwen-Image,2512 版有三项关键升级:
| 升级点 | 提升效果 |
|---|---|
| 人物真实感增强 | 大幅降低"AI 感",面部细节、皱纹、发丝刻画更真实 |
| 自然细节更细腻 | 风景、水波、动物毛发等纹理渲染明显更细 |
| 文字渲染更准确 | 图中文字排版更好,中英图文混排更可靠,甚至能生成 PPT、信息图 |
官方在 AI Arena 进行了10000+ 轮盲评:Qwen-Image-2512 是当前最强开源文生图模型,在闭源模型中也有竞争力。
FP8 vs INT8 量化版本怎么选?
仓库同时提供两种量化方案,核心差异如下:
| 对比项 | FP8 版 | INT8 版 |
|---|---|---|
| 量化方案 | Float8(e4m3)+ 动态激活量化 | INT8 逐 token 激活 + 逐通道权重 |
| 检查点大小 | 20.5 GB(更小 ⚡) | 34.1 GB |
| 保真度(同种子 LPIPS,越低越好) | 0.109 | 0.029(更接近原版 ✅) |
| 适用场景 | 显存紧张、优先跑得快 | 显存充足、追求最高画质 |
💡LPIPS是感知相似度指标:同一随机种子下,量化版与 bf16 原版出图越接近,数值越小。两个数值都很低,说明肉眼几乎看不出差别。
选择建议:显存有限 → 选 FP8;显存宽裕、想极致还原原版 → 选 INT8。
技术细节:INT8 版中部分文本流投影层(txt_in、add_q/k/v_proj 等)保留 bf16 精度,因为短提示词下这些层行数太少,不适合 INT8 矩阵乘内核。
仓库文件清单
| 文件 | 说明 |
|---|---|
| Qwen-Image-2512-FP8.pt | FP8 量化 Transformer 检查点(20.5 GB,torchao 格式) |
| Qwen-Image-2512-FP8.safetensors | 同一 FP8 检查点的 safetensors 格式 |
| Qwen-Image-2512-INT8.pt | INT8 量化 Transformer 检查点(34.1 GB,torchao 格式) |
| Qwen-Image-2512-INT8.safetensors | 同一 INT8 检查点的 safetensors 格式(torchao 0.18 布局) |
| README.md | 官方说明、样例与使用方法 |
| samples/ | 量化版出图样例目录(FP8 / INT8 各 3 张) |
如何快速跑起来:Qwen-Image-2512-FP8 上手三步
第一步:克隆仓库
git clone https://gitcode.com/hf_mirrors/unsloth/Qwen-Image-2512-FP8第二步:安装最新版 diffusers
量化模型需要最新版的 diffusers 才能正确加载:
pip install -U diffusers第三步:生成你的第一张图
把模型加载到 GPU,输入提示词即可出图:
from diffusers import DiffusionPipeline import torch pipe = DiffusionPipeline.from_pretrained( "本地仓库路径", # 指向本仓库(已配置好量化权重) torch_dtype=torch.bfloat16 ).to("cuda") image = pipe( prompt="一只可爱的树懒正在电脑上打字", width=1024, height=1024, num_inference_steps=20, # 推理步数,越多越精细 true_cfg_scale=4.0, # 引导强度 ).images[0] image.save("my_first_image.png")常用参数速查🎛️
| 参数 | 作用 | 推荐值 |
|---|---|---|
width/height | 输出尺寸,支持 1:1、16:9、9:16 等多种比例 | 1328×1328(1:1) |
num_inference_steps | 推理步数 | 20~50 |
true_cfg_scale | 提示词引导强度 | 4.0 |
generator | 随机种子,固定后结果可复现 | 任意整数 |
量化质量实测:样例图怎么看?
官方用同一提示词"cute sloth typing on a computer"(一只可爱的树懒在电脑上打字)生成对比样例:1024×1024、20 步、引导强度 4.0、种子 0~2。
- FP8 样例:samples/fp8_1.png、samples/fp8_2.png、samples/fp8_3.png
- INT8 样例:samples/int8_1.png、samples/int8_2.png、samples/int8_3.png
同种子下 INT8 与原版差异 LPIPS 仅0.029、FP8 为0.109(越低越好),官方准确性门禁 14/14 全部通过——量化后几乎"原画级"。
常见问题 FAQ ❓
Q1:没有 NVIDIA 显卡能跑吗?量化检查点依赖低精度张量核心,强烈建议使用 GPU(NVIDIA)运行,CPU 推理会非常慢且无法发挥量化优势。
Q2:.pt 和 .safetensors 有什么区别?两者是同一份检查点的不同容器格式,内容一致,任选其一即可。
Q3:能生成带中文的图片吗?可以。模型支持中文提示词,且 Qwen-Image-2512 的文字渲染能力专门针对图文混排做了提升,海报、信息图等场景表现很好。
Q4:显存到底省了多少?FP8 检查点本体 20.5 GB,比 INT8 的 34.1 GB 更小;推理时激活值也被动态量化,整体显存占用显著低于 bf16 原版,具体取决于你的显存配置,建议先用 20 步低分辨率试跑。
写在最后
Qwen-Image-2512-FP8 让你用更小的代价获得最强开源文生图的出图体验:显存紧张选 FP8,追求极致保真选 INT8。克隆仓库、装好最新版 diffusers,10 分钟就能画出第一张图。🚀
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考