你让一个机器人把红色瓶子放进盒子。它不只要“想象”出一段看起来合理的视频,还得判断瓶子在哪里、夹爪该怎么靠近,以及每次动作之后现实是否符合预期。画面漂亮却抓空了,对视频生成也许只是小瑕疵,对机器人却是任务失败。
这正是论文《Native Video-Action Pretraining for Generalizable Robot Control》要指出的错位:面向内容创作的视频模型追求画面还原和观感,机器人控制关心的却是动作及其物理后果。作者因此提出 LingBot-VA 2.0,不再给现成视频生成器外挂一个动作模块,而是从数据表示、预训练目标到执行方式,原生设计一套 video-action model——把连续画面和机器人动作放在一起学习的模型。
这是一篇单一论文的精读。下文的性能和泛化结论均来自作者报告,尚无独立信源交叉验证。
漂亮画面,不等于会做事
传统视频生成器通常先用 VAE(Variational Autoencoder,变分自编码器)把画面压缩成较短的内部表示,再尝试还原原视频。这个过程主要奖励“还原得像不像”。问题在于,适合重建像素的信息,不一定是控制最需要的信息。
比如,模型可能认真保留瓶身的纹理,却没有清楚编码“夹爪正在接近瓶口”这一变化。更麻烦的是,动作模块往往后来才接上,画面和动作像两套分别编写的词典,彼此未必对得齐。
时间方向也有冲突。通用视频模型常使用双向注意力,也就是生成某一段时可以参考前后内容;机器人在现实中只能从过去走向未来,不能偷看尚未发生的画面。旧办法需要用有限的机器人数据,把这种双向架构改造成因果架构。作者担心,这会引发 catastrophic forgetting——模型适应新任务时,遗忘此前学到的广泛知识。
LingBot-VA 2.0 的选择更彻底:从头训练因果模型,让每一步只依赖已经发生的内容。它不是先学拍电影、再转行开机器人,而是一开始就按控制任务的时间规则学习。
先重做机器人的“词典”
第一项关键改动是 semantic visual-action tokenizer。tokenizer 在这里负责把画面和动作相关变化压缩成模型可处理的紧凑单元。作者希望这些单元既知道场景“是什么”,也知道场景“怎么变”。
它仍然学习重建画面,但额外接受两类训练。其一,模型把视觉表示与一个冻结的视觉基础模型对齐,让压缩后的信息保留更多语义。其二,它从相邻画面的变化中,自监督地提取 latent action——没有直接动作标签时,从状态变化里归纳出的紧凑动作表示。
具体来说,一个 inverse dynamics model(逆动力学模型)根据前后两个视觉状态推测中间发生了什么;一个 forward dynamics model(前向动力学模型)再用这项变化预测下一个状态。作者还给动作表示设置了信息瓶颈,防止它直接复制整幅画面,迫使它关注真正推动状态变化的部分。
这样一来,没有机器人动作标注的普通视频,也能提供与动作有关的学习信号。论文的核心判断就在这里:控制知识不应只来自昂贵的机器人演示,海量视频里的状态变化也可以成为预训练材料,前提是训练目标会主动寻找动作和后果。
别只猜下一帧,要学会看走势
相邻两段视频往往很像。如果训练只要求预测紧接着的一段,模型可能靠复制外观就拿到不错的分数,却没有真正理解运动趋势。
LingBot-VA 2.0 因此加入 Multi-Chunk Prediction,简称 MCP,即一次监督多个未来片段。论文使用三个未来片段,让模型不只回答“下一刻长什么样”,还要为稍远的变化组织内部表示。作者希望借此让模型学习整段轨迹的动力学,而非短期的视觉连续性。这些额外模块部署时可以移除,不增加正式推理开销;也可以保留,用来并行预测后续视觉片段。
模型还采用 sparse MoE(稀疏混合专家)骨干:内部准备多个“专家”网络,但每个输入只激活其中少量专家。其目标是在扩大总容量时控制每一步实际计算量。论文比较了 MoE-13B-A1.9B 与 Dense-5B:前者总参数约 130 亿、每次激活约 19 亿;后者是约 50 亿参数的稠密模型。作者称,两者按相同训练步数比较时损失轨迹接近,稠密模型略低;按相同训练时间比较时,最终损失几乎重合。不过,这只能说明论文所用训练设置下未观察到明显优化代价,不能直接证明所有场景都“不牺牲效率”。
机器人动的时候,模型也别闲着
真实控制还有一个朴素难题:如果机器人每做完一段动作,都停下来等模型计算下一步,模型延迟就会直接变成机器人迟疑。
作者提出 Foresight Reasoning。机器人执行当前动作时,模型并行预测未来视觉状态和下一段动作,像先打一份草稿。等新的真实观测回来,模型立即用现实结果覆盖先前想象,再开始下一轮预测。这样既把计算藏在动作执行期间,又避免模型连续相信自己的想象,逐渐偏离现场。
这是一种“预测—校正”的闭环。闭环控制指机器人不断观察动作造成的结果,并据此修正后续动作。论文报告,结合稀疏 MoE、少步蒸馏和量化执行后,系统的异步执行峰值可达 225 Hz。但这里的峰值频率不等于所有复杂任务都能以同样频率稳定运行,论文提供的材料也没有给出端到端延迟拆分。
为什么这条路线值得看
我们 7 月 11 日介绍 LingBot 系列世界模型时,讨论过它如何根据动作连续生成画面,也指出只从像素学习,可能缺少明确的几何与碰撞规则。LingBot-VA 2.0 把问题继续往前推了一步:如果最终目标是控制机器人,那么预训练阶段就不该只奖励像素还原,而应让视觉、语言、动作和状态变化尽早进入同一套表示。
作者报告,这套表示可以用 10 至 15 条演示适配新任务,能够跨不同机器人形态迁移,并在部分设置中零样本执行新任务。零样本指不为目标任务额外提供演示,few-shot 则指只提供少量示例。论文还引入高层 VLM planner——由视觉语言模型充当的规划器,把长任务拆成较短的子任务;底层策略再负责连续控制。
真正值得关注的不是“又一个机器人模型”,而是它对预训练起点的质疑:视频生成和机器人控制都处理连续画面,但目标函数不同,理想的内部表示也可能不同。若这条判断成立,机器人基础模型的竞争重点就不只是模型大小和数据量,还包括数据究竟教了模型什么。
局限与未知
- 论文的成功率、任务数量、主要基线差值和统计显著性未出现在现有材料中,因此无法判断“显著提升”具体有多大,也无法比较各项设计各自贡献多少。
- 10 至 15 条演示、零样本迁移和复杂操作泛化均为作者报告;材料没有完整列出适用任务、失败案例和跨机器人迁移条件。
- 225 Hz 是峰值异步执行频率。材料未给出统一的“实时”定义、端到端控制延迟或硬件对照,不能据此把实时能力泛化到所有部署环境。