• 人工智能
• 大模型
• 媒体生成
• 模型蒸馏
• 模型压缩

FastVideo-FastH3-4-step-Preview-v1-VSA-DataFree 是 FastVideo 出品的4 步音画生成蒸馏检查点：输入一段文本，仅用4 次 transformer 前向即可生成带同步音频的视频。要在 4 张 GPU 上跑顺它，核心是三件事——FSDP 推理分片、序列并行（Sequence Parallel）切分，以及 VSA-H3 Attention 内核的选择。本文结合该仓库中的推理契约与模型配置，给出完整的 4 卡部署参数解读与切换方法。🚀

先搞清楚：4 卡要承载多大的模型？

该检查点采用MiniMaxH3ModularPipeline流水线（见 modular_model_index.json），各模块 bf16 权重规模如下：

全部权重约137 GiB，放在单卡上完全不现实。这正是需要 FSDP + 序列并行的原因。DiT 的结构参数可在 transformer/config.json 中核对：num_attention_heads: 56、num_layers: 50。

FSDP 推理：把 65 GB 的 DiT 切到 4 张卡上

推理契约 fastvideo_inference.json 中明确：

"num_gpus": 4, "sequence_parallel_size": 4, "use_fsdp_inference": true, "torch_compile": false

FSDP 推理（use_fsdp_inference: true）是 4 卡部署的第一块基石：DiT 权重被均匀切分到 4 张卡，每卡约承载16 GiBDiT 权重，前向时再按需聚合。相比"每卡复制一份"的朴素方案，它把显存占用直接降到 1/4。

⚠️ 两个细节：

• 测试配置不启用 torch.compile（torch_compile: false），首次推理无需等待编译，部署更省心；
• 在 Blackwell（B200）上 DiT 允许以 replicated 方式驻留；显存有限的卡请追加--no-replicated-dit，强制让 DiT 权重走 FSDP 分片而非每卡复制。

序列并行与"56 头整除"黄金规则

序列并行（SP）是第二块基石。768×1344 分辨率、124 帧的视频展平后是一条极长的 token 序列，SP=4 会把这条序列切到 4 张卡上并行处理注意力。

这里有一条硬性约束（见 README.md）：

GPU 卡数必须能整除 H3 的 56 个注意力头。

56 = 2³ × 7，因此可选卡数为1 / 2 / 4 / 7 / 8 / 14 / 28 / 56。4 卡恰好每卡分到14 个头，兼顾切分粒度与通信开销，也是官方测试的配置，是多数 4 卡用户的最优解。✅

Attention 内核选择：VSA-H3 的 sm100a 与 triton 怎么挑

这个检查点必须使用 VSA-H3 稀疏注意力后端（attention_backend: VIDEO_SPARSE_ATTN_H3），不能用普通 FlashAttention 替代。它的关键参数同样记录在 fastvideo_inference.json：

• vsa_sparsity: 0.9——90% 的注意力 tile 被跳过，只计算约 10% 的 tile，这是 4 步推理能跑快的核心；
• vsa_tile_size: 64—— 以 64×64 的 tile 为单位做稀疏决策。

由于模型本身就是带着 90% 稀疏度蒸馏训练的（data-free DMD2 + VSA-H3），稀疏推理不会明显损失质量。内核层面按硬件二选一：

💡 一句话记忆：Blackwell 用默认，其余 CUDA 卡加--no-replicated-dit --vsa-kernel triton --no-fa4。

4 卡部署完整步骤：安装到推理一条龙

第一步：安装 FastVideo（CUDA 13 / Blackwell 路径）

先获取 FastVideo 框架代码（仓库地址见官方安装指南），然后执行：

uv venv --python 3.12 --seed source .venv/bin/activate UV_TORCH_BACKEND=cu130 uv pip install \ --no-sources-package fastvideo-kernel \ -e ".[fasth3]"

--no-sources-package fastvideo-kernel表示直接安装 FastVideo 发布的预编译 CUDA 内核，无需本地编译 kernel，部署时间大幅缩短。🛠️

若需离线环境，可先手动克隆本模型仓库再指定本地路径：git clone https://gitcode.com/hf_mirrors/FastVideo/FastVideo-FastH3-4-step-Preview-v1-VSA-DataFree

第二步：一条命令跑 4 步音画生成

python examples/inference/basic/basic_fasth3.py \ --model-path FastVideo/FastVideo-FastH3-4-step-Preview-v1-VSA-DataFree \ --prompt "your prompt" \ --no-warmup \ --repeats 1

非 Blackwell 多卡系统，在上面的命令后追加：

--no-replicated-dit --vsa-kernel triton --no-fa4

4 步推理参数速查表

更多训练侧背景（32 卡 FSDP32、SP4 的 DMD2 蒸馏过程）可参考 checkpoint_metadata.json 与 provenance.json。

常见问题 FAQ

Q1：显存大概需要多少？4 卡分摊后每卡权重约 34 GiB（含文本编码器、VAE），再叠加激活峰值，建议单卡48 GB 以上；4×B200 是最稳的测试配置，80 GB 级别卡（H100/A100-80G）搭配--no-replicated-dit可行。

Q2：能不能用 2 卡或 8 卡？可以，但卡数必须整除 56（1/2/4/7/8/14/28/56）。2 卡每卡压力翻倍，8 卡需满足 VSA 与 FSDP 的通信拓扑，首选官方测试过的 4 卡。

Q3：为什么我用了 FlashAttention 报错或结果不对？该检查点是带 90% 稀疏度蒸馏的，必须走 VSA-H3 后端（Blackwell 默认sm100a，其他卡--vsa-kernel triton），且需使用配套 LoRA/检查点契约，不能直接套用基础 MiniMax-H3 的完整去噪调度。

Q4：支持哪些任务？该预览版仅支持文本生成音画（t2av）；FL2VA、Ref2VA 未蒸馏，复杂运动与精细细节可能与基础 H3 有差距（见 README.md 的 Scope 说明）。

总结

4 卡部署 FastH3 四步音画生成的要点可以浓缩成三句话：

1. FSDP 推理把 ≈137 GiB 的权重切到 4 张卡，显存不再是瓶颈；
2. 序列并行 SP=4要求卡数整除 56 个注意力头，4 卡是最均衡的选择；
3. Attention 内核认准 VSA-H3：Blackwell 用默认sm100a，其余 CUDA 卡加--no-replicated-dit --vsa-kernel triton --no-fa4。

装好 FastVideo、贴上一条推理命令，4 次前向即可拿到带同步音频的视频——这就是 FastH3 四步生成的全部部署精髓。⚡️

• 人工智能
• 大模型
• 媒体生成
• 模型蒸馏
• 模型压缩