Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.013 — 2026-07-17
PAPER HF 33 约 6 分钟

小米U0:用世界模型合成机器人数据

小米U0把生成模型变成机器人数据工厂:既换场景,也守住多视角与动作逻辑。

你给一台机器人拍了三路视频,再让生成模型把普通桌面换成陌生仓库。麻烦很快出现:正面多了一只箱子,侧面却没有;机械臂换个角度,甚至穿进了桌板。画面各自都像真的,合在一起却不是同一个世界。小米团队提出的 Xiaomi-Robotics-U0,想解决的正是这件事:让生成模型不只会“造视频”,还会批量制造能供机器人训练的数据。

U0 是一个拥有 380 亿参数的多模态自回归模型。自回归,简单说就是像写句子一样,逐个预测后续的文字、图像或控制信息。团队把它定位为世界基础模型——从图像、视频和动作数据中学习环境如何变化,再充当多个机器人任务的通用数据生成器。本文涉及的效果、排名与开放状态均来自小米团队论文及项目声明,尚无独立信源交叉验证。

关键不是更会画,而是几路画面能对上

普通图像模型关心一张图是否逼真。机器人还要同时面对多台相机,因此要求更严。

首先是多视角一致性:同一物体从不同相机看,位置、形状和遮挡关系必须互相对应。其次是几何一致性:桌腿不能换个角度就消失,机械臂也不能穿过物体。最后是动作条件生成:模型接收机器人将要执行的动作,并生成动作之后的视觉结果,建立“做了什么—世界怎样变化”的对应关系。

U0 没有把这些能力拆成几个互不相干的专用模型。它在同一套训练目标下联合学习五类任务:文生图、图像编辑、具身场景生成、具身迁移和具身视频生成。“具身”指机器人有具体身体、相机和动作约束;“具身迁移”则是在保留原有空间结构和交互状态的同时,更换工作台、背景、无关物体、目标物体或光照。

这像是在同一间摄影棚里换布景:桌面材质和灯光可以变,但演员站位、机位关系与正在进行的动作不能乱。论文的方法会把工作空间、背景、无关物体、目标物体和光照拆成五个可独立控制的维度,并用多视角深度图约束空间结构。深度图记录画面中各处离相机的远近,是模型生成新外观时的“空间骨架”。

保住通用视觉能力,再补机器人经验

团队认为,只用规模较小、内容重复的机器人数据继续训练,可能削弱基础模型原有的视觉知识。U0 因此同时保留通用图像生成与编辑任务,并加入机器人数据,而不是把基础模型彻底改造成单一的机器人生成器。

训练数据覆盖通用图文、真实与模拟机器人操作、自动驾驶、第一视角视频、三维重建和游戏场景。论文报告,单步生成部分包含 950 万个样本、564 亿个 token;序列生成部分包含 260 万段视频、496 亿个 token。Token 是模型处理信息的基本单位,文字、图像和机器人控制信号都会被转换成这类离散符号。

序列训练还用了两种时间尺度。一种把任务拆成连续小步骤,每段文字目标后接执行完成时的多视角画面;另一种用每秒 1、3、5 帧的视频同时学习缓慢的任务推进和细小的交互变化。对于带动作标签的数据,团队还会根据机器人动作与 URDF——描述机器人关节和结构的文件——渲染机器人遮罩,把它作为视频生成的动作引导。

合成数据有没有真的帮到机器人?

论文给出了三组较有代表性的证据。

在具身迁移测试中,团队构建了 300 个样本,其中简单与困难场景各 150 个。输入是修改后的场景描述与多视角深度图,目标是生成彼此一致的彩色图像。与 GPT-Image-2 相比,U0 在深度、轮廓和语义分割指标上都更好。例如困难组的分割 mIoU——生成物体区域与参考区域的平均重合程度——从 0.4098 提升到 0.7436。不过,这只是特定具身迁移设置下的比较,不能理解为 U0 整体优于 GPT-Image-2。

在具身场景生成测试中,论文使用 400 个提示词,普通室内场景与开放场景各 200 个。作者报告,人类两两比较时,U0 在多数样本中胜出,优势主要来自多视角几何一致性,而指令遵循能力与 GPT-Image-2 相近。供稿没有给出具体胜率和标注人数。

更重要的是下游训练。团队为装箱、叠毛巾、包装手机和包装耳机四项真实任务合成不同背景、工作空间与光照的数据。论文报告,使用这些数据后,机器人策略 pi_0.5 在高难度真实操作任务上的分布外成功率从 36.9% 升至 63.2%。分布外指测试环境与训练环境不同。这组数字说明,合成数据可能扩大机器人见过的视觉范围;但它是 pi_0.5 在特定任务上的变化,不是 U0 自身的操作成功率。

为什么值得现在看

U0 最值得关注的,不是又多了一个会生成机器人视频的模型,而是生成模型角色的变化:它开始被当作数据生产系统。真实机器人采集数据成本高,也很难覆盖所有光照、背景、物体摆放与危险情境。若世界模型能够在保留几何、视角和动作关系的前提下改造已有轨迹,一段真实演示就可能扩展成许多训练场景。

论文还报告,U0 在 World Arena 的具身视频生成评测中排名第一,并能从合成的初始场景继续生成操作视频。作者据此把它称为可规模化的数据引擎。这个方向的意义很直接:生成模型不再只负责展示一段“看起来不错”的视频,而要产出机器人能够真正拿去学习的经验。

局限与未知

  • 36.9% 到 63.2% 的实验没有在供稿中披露任务数量、重复次数、基线控制、合成数据规模和统计显著性,暂时无法判断增益有多稳定。
  • World Arena 的榜单版本、人类评测的完整协议与具体胜率未提供;“首个”“最高水平”和“高质量”也都是作者自述。
  • 论文称代码与 checkpoints——训练完成的模型权重——已在 Xiaomi Robotics 项目页提供,但实际开放范围、许可条件和下载完整性仍待单独核查。

供稿材料 SOURCES — 1

← 返回 2026-07-17 · 学术板块