ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

世界模型能直接当零样本策略吗?VLA Handbook 前瞻解读 DreamZero 与 WAM 前沿方向

世界模型能直接当零样本策略吗?VLA Handbook 前瞻解读 DreamZero 与 WAM 前沿方向

【免费下载链接】VLA-Handbook

本项目旨在为致力于进入VLA(Vision-Language-Action)领域的算法工程师提供一份全中文、实战导向的学习/面试手册。 不同于通用的 CV/NLP 面试指南,本项目聚焦于 Robotics 特有的挑战

项目地址:https://gitcode.com/gh_mirrors/vl/VLA-Handbook
点击查看免费下载

VLA Handbook是一份面向 VLA(Vision-Language-Action,视觉-语言-动作)算法工程师的全中文、实战导向学习与面试手册,聚焦 Robotics 特有的挑战。本文沿手册的世界模型支线,解读 2026 年最具争议的前沿问题:世界模型(World Model)能不能不借助额外的策略网络,直接当零样本策略用?答案是——DreamZero 已经给出了迄今最完整的"肯定回答"。

一、为什么"世界模型当策略"会成为前沿问题

传统 VLA 的学习范式可以压缩成一个分布:

给定图像 o 和语言指令 l,直接输出动作 a,即 Pr(a | l, o)。

这套范式的强项是语义泛化——它继承了视觉-语言模型(VLM)对"世界是什么"的理解;但弱项同样明显:

  • 缺物理直觉:预训练主监督来自静态图文,对接触、形变、因果顺序、物体运动轨迹理解薄弱;
  • 新动作容易失真:遇到训练集里罕见的行为(解鞋带、握手),策略常塌回"抓取-放置"的常见模板。

世界模型学的是另一个分布:Pr(o' | l, a, o)——"世界接下来会怎么变"。2024 年以前的主流用法是把它当辅助工具:生成合成数据、做规划、当评测器。而 2026 年,这条线走到一个更激进的终点:

既然世界模型已经会"预测未来",为什么不把"预测动作"也学进去,让它本身成为闭环策略?

这个新物种被称为WAM(World Action Model,世界动作模型),代表工作就是 DreamZero。

二、DreamZero 拆解:世界模型 = 零样本策略

DreamZero 的核心主张只有一句话:联合预测"未来视频 + 动作",用视频动力学做动作学习的硬约束。

2.1 架构直觉:先"做梦",再从梦里倒推动作

它的联合分布可以分解理解为两步:

π(o_future, a | o_now, instruction) = π(o_future | o_now, instruction) ← 视频预测:隐式物理规划器 × π(a | o_future, o_now) ← 逆动力学:为了这个未来我该动成什么样

但 DreamZero 并不是真的拆成两个模型,而是用一个14B 自回归 DiT 主干端到端联合去噪——视频 latent 和动作 chunk 在同一个生成过程里对齐。这带来一个关键好处:视频生成出错时动作会跟着错,反过来视频的物理先验也会"逼着"动作符合物理规律。

训练目标采用flow matching(如图右,噪声到数据走确定性直线 ODE 轨迹,而非扩散模型的曲折随机路径),把视频与动作拼成联合向量一起去噪,并像训练 LLM 一样用 chunk-wise teacher forcing 灌入历史干净上下文。

2.2 闭环"作弊":用真实观测打断漂移

自回归视频生成的最大痛点是误差累积——越滚越歪。DreamZero 在机器人闭环里有一个独门技巧:

每执行完一个动作 chunk,就用真实摄像头观测替换 KV cache 里对应的预测帧。

预测负责"想象",观测负责"纠偏",世界模型的漂移通道被直接切断。这是"把世界模型当策略"在闭环控制里独有的优势。

2.3 从 5.7 秒到 150 毫秒:38× 加速才敢谈部署

14B 视频扩散模型天然是"算力巨兽"——朴素推理约 5.7 秒/chunk,根本无法闭环。DreamZero 用三层优化把它压到~150ms/chunk、7Hz 闭环控制:

层级关键手段效果
模型级DreamZero-Flash:解耦视频/动作噪声调度1 步去噪成功率 52% → 74%
系统级异步执行 + CFG 双卡并行 + DiT caching有效去噪步 16 → 4
实现级torch.compile、CUDA Graphs、NVFP4 量化在 GB200 上累计 38× 加速

一个工程细节值得一提:异步执行让"推理"和"执行"重叠——机器人执行当前 chunk 时,模型在后台用最新观测生成下一个 chunk。延迟约束从"动作开始前算完"放宽为"当前 chunk 过期前算完"。

三、零样本泛化到底多强:关键数字

按手册整理的评测结果(详见 DreamZero 深度解析):

场景DreamZero最强 VLA 基线
AgiBot 已知任务、新环境新物体62.2% 任务进度27.4%
AgiBot 完全未见任务39.5%—
DROID 未见动词49%25–32%
跨本体迁移(YAM 新机器人)仅30 分钟play data 适配—
视频演示迁移(无动作标签)10–20 分钟视频 → 未见任务相对提升 >42%—

数据配方同样值得新手注意:多样性 > 重复性。500 小时遥操作数据,"22 个真实环境、7.2K 条异构轨迹"的多样分布比围绕固定任务反复刷演示高出约 17 个百分点。

四、WAM 前沿方向:三条路线 + 一股"收缩力"

DreamZero 不是孤例。手册的三路线综述(WAM 三路线综述)把 2026 年的 WAM 版图划成三条主路线:

  • 路线一:两阶段解耦派(UniPi / VPP / mimic-video)——先预测未来视频,再用逆动力学反推动作。模块化好训,但中间接口会丢信息;
  • 路线二:端到端联合生成派(PAD / Cosmos Policy /DreamZero)——视频与动作联合生成,对齐最强、物理监督最直接,代价是训练/推理最贵;
  • 路线三:统一多功能派(UWM / LingBot-VA / Motus)——一个模型通过噪声时间步切换策略/前向动力学/逆动力学/视频生成四种模式,数据利用率最高。Motus 在 50 任务上约 87% 成功率,比 pi0.5 高约 45 个百分点。

而 世界模型主线总纲 还指出了一个容易被忽略的反向力量——世界模型正在"收缩":

  1. 像素 → latent:LDA-1B 的消融显示 latent 空间世界模型 55.4% vs 像素 VAE 路线 20.0%,WAM 的 scaling 分水岭可能不在像素;
  2. 推理期 → 训练期:GaussianDream 训练时跑完整 3D 高斯世界模型做密集监督,推理时全部丢弃只留一个前缀,世界模型从"运行时模拟器"变成"训练期老师";
  3. 世界模型当 RL 仿真器:4-6 月新主战场是用 action-conditioned 世界模型替代真机做 RL 后训练(WM 辅助 VLA 后训练深潜),但"想象出来的仿真器 ≠ 可靠的仿真器",reward hacking 仍是最大暗礁。

前瞻判断:WAM 路线与"溶解"路线目前并行,一个 latent 空间里既做 WAM、又能按需瘦身成训练期前缀,是接下来最值得盯的合流点。

五、开放挑战:别被 62.2% 冲昏头

  • 算力门槛:7Hz 是在 2×GB200 上达成的,而 VLA 在消费级 GPU 上就能跑到 20Hz+。多数团队现阶段必须在 VLA 与 WAM 之间二选一,别两条腿都跑;
  • 视频质量 = 策略质量的双刃剑:视频生成一幻觉(物理穿帮、接触相位错),动作就跟着错。"video backbone 越强,动作执行越好"既是卖点也是脆弱点;
  • VAE 瓶颈:视频 latent 的下采样与模糊化,在插 USB、精密装配等亚毫米任务上会不会成为硬上限,目前缺乏系统答案;
  • 评测不可比:各工作的平台、任务集、控制频率、成功定义差异巨大,跨论文比数字要格外小心(上图正是社区对这一点的吐槽)。

一个稳妥的面试式回答:短期 VLA 不会被 WAM 取代——它仍是语义接口最成熟的范式;WAM 的真正价值是把"互联网视频里的物理先验"变成控制主监督。未来几年,VLA 管语义、WAM 管物理,两者大概率融合成统一的具身基础模型。

六、延伸阅读:VLA Handbook 里的世界模型支线

你想了解入口文档
DreamZero 完整拆解(架构/公式/消融/面试问答)theory/world-model/dreamzero_world_action_models_zero_shot_policies_2026.md
早期 WAM 解析(IDM 分解视角)theory/world-model/world_action_models_are_zero_shot_policies_dissection.md
WAM 三路线综述与工程取舍theory/world-model/wam_three_routes_video_pretraining_vs_vla_2026.md
世界模型主线总纲(evaluator → planner → WAM)theory/world-model/world_model_mainline.md
世界模型支线导航(100+ 篇索引)theory/world-model/README.md
VLA 研究主线全景theory/vla-core/vla_research_mainline.md

一句话总结:世界模型当零样本策略,从 2024 年的"大胆设想"走到 2026 年的"工程现实"——DreamZero 证明了可行性与代价并存;而 WAM 会不会吞掉 VLA、latent 路线会不会终结像素路线,是这条支线未来半年最值得押注的两个问题。🤖

【免费下载链接】VLA-Handbook

本项目旨在为致力于进入VLA(Vision-Language-Action)领域的算法工程师提供一份全中文、实战导向的学习/面试手册。 不同于通用的 CV/NLP 面试指南,本项目聚焦于 Robotics 特有的挑战

项目地址:https://gitcode.com/gh_mirrors/vl/VLA-Handbook
点击查看免费下载

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进