Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.012 — 2026-07-16
PAPER H 57 · HF 59 约 6 分钟

视频生成,正在长成通用视觉模型

把视频生成器改造成视觉通才:同一模型按文字指令做深度、分割和姿态估计。

你给 AI 一段街景视频,让它生成下一秒的画面。它得知道汽车如何移动、远近关系怎样变化,也得让同一个物体在前后帧里保持连续。现在,这篇论文追问了一步:既然视频生成模型已经学过这些规律,能不能别只让它“拍片”,也让它测距离、分物体、估计相机位置?

作者给出的答案是 GenCeption。它把预训练的视频生成模型改造成一个视觉感知模型,用同一套主体结构处理多种任务,再由文字指令告诉模型这次该输出什么。论文报告了多项领先或有竞争力的结果。不过,主要结论均来自作者自己的实验,尚不能视为独立验证。

生成视频,为什么可能教会模型“看懂”世界?

语言模型的关键转折,是把“预测下一个词”变成通用预训练:模型先从大量文本中学习语言规律,再迁移到问答、翻译和总结等任务。作者认为,视觉领域也需要一个类似的共同起点,而大规模文本生成视频可能就是候选者。

扩散视频模型——从随机噪声出发、经过多轮去噪生成连贯视频的模型——在训练中同时面对三类问题。它要理解物体外观,也要理解运动如何随时间展开,还要知道文字描述对应哪些画面和动作。

这会带来作者看重的两种能力。第一是“时空先验”,也就是从数据里形成的常识性倾向,例如物体通常不会在下一帧凭空消失,动作会怎样改变场景。第二是“视觉—语言对齐”,即让文字概念和视觉模式能够互相匹配。前者帮助模型理解动态世界,后者让人可以用自然语言指定任务。

把摄影棚改成测量室

GenCeption 建立在开源、开放权重的文本生成视频模型 WAN 2.1 上。原模型通常从噪声开始,反复运行几十步,逐渐生成视频。GenCeption 不再给它噪声,而是直接输入一段干净视频;也不再让它迭代生成,而是只运行一次,直接给出感知结果。

可以把这理解为:摄影棚里原本有一套很懂画面与运动的设备,作者没有重新建实验室,而是把这套设备改成测量工具。这个变化把慢速的多轮扩散过程,改成了前馈模型——输入经过模型一次计算就得到输出。

论文给出的推理数据也说明了速度差别。在单颗 v6e TPU 上处理 81 帧、分辨率为 480×832 的视频,13 亿参数版本耗时 5.92 秒,约每秒 13.6 帧;140 亿参数版本耗时 10.03 秒,约每秒 8 帧。作者称,这取代了 WAN 原先的 50 步扩散过程。

同一套模型,怎样交出不同答案?

传统视觉系统常为每项任务设计不同的输出头和损失函数。GenCeption 尽量把差异移到“答案格式”里:模型主体、解码器和训练目标保持统一,文字提示决定任务。

对深度、表面法线和分割这类需要逐像素作答的任务,作者把结果统一编码成三通道 RGB 图像。单值的深度或分割结果复制到三个通道;三维表面法线则让三个通道分别承载不同维度。相机位姿原本常写成矩阵,论文改用像素空间的 raymap——描述每个像素对应射线起点与方向的图——再把六个通道排进三通道画面。

这有点像语言模型把翻译、问答和分类都整理成文本:任务本身不同,但答案先被装进模型熟悉的统一容器。对于 2D、3D 关键点这类稀疏坐标,GenCeption 额外加入可学习 token,也就是模型内部专门用来读取结构化答案的小槽位。

训练数据也以合成为主。作者使用 800 个 RenderPeople 人物资产和 CMU 动作捕捉数据集中的 200 个动作,配合不同场景、背景、焦距及相机轨迹,生成了 7500 段视频。Blender 在渲染时同步提供深度、法线、分割和关键点等标准答案。部分任务还加入公开合成数据;表达指代分割——例如按“拿红杯子的人”这句话找出目标——因已有现实数据而使用了真实数据集。

结果真正说明了什么?

论文最有说服力的证据,不是某一项任务夺冠,而是同一个生成预训练底座能覆盖多类视觉问题。

以深度估计为例,在相同的 7500 段视频、约 90 万帧微调数据下,WAN 2.1 的 13 亿参数版本在 Sintel、KITTI 和 ETH3D 上的平均 AbsRel 为 0.122。AbsRel 是相对深度误差,越低越好。采用 VideoMAE V2 预训练的 10 亿参数版本为 0.154,V-JEPA 版本为 0.281。140 亿参数 WAN 版本进一步降到 0.093。这个对照支持作者的核心主张:在该实验设置里,视频生成预训练提供了比两种替代方案更有用的视觉底座,扩大模型也带来改善。

加入更多合成数据后,140 亿参数版本用 8080 段视频、123 万帧取得 0.071;表中 D4RT 为 0.082,VGGT- 为 0.067。也就是说,它超过了一个专用模型,但仍略逊于另一个。论文原文称其使用“7 to 500 less training data”仍获相当性能,但这一表述缺少明确量纲,不宜擅自解释成具体倍数。

在其他任务上,作者还报告:模型在表面法线、相机位姿、前景及表达指代分割、3D 人体关键点等基准上,匹敌或超过若干专用系统。联合训练并非全面获益:前景分割持续改善,表达指代分割大体不变;深度和相机位姿则常有退步或持平。这反而提醒我们,“统一模型”已经可行,不等于多任务之间天然互相促进。

为什么值得现在关注?

视频生成长期被当作内容工具来评价:画面是否逼真、运动是否自然。GenCeption 换了一个问题:生成过程中积累的世界知识,能否成为视觉系统的通用底座?如果这条路线成立,未来增加视觉能力时,重点可能从改模型结构,逐渐转向设计指令、数据与统一的答案格式。

论文还展示了一种初步的跨域现象:主要用合成人类视频训练的模型,可以处理真实视频,以及动物、机器人等训练分布之外的对象。但这只是作者报告的早期结果,不能外推为广泛的开放世界泛化能力。

局限与未知

  • 多数领先结论来自论文自身。不同模型的训练数据、规模和评测条件并不完全一致,所谓“可比设置”的公平性仍需独立复核。
  • 统一训练的收益并不稳定,深度、相机位姿等任务会出现性能回退,通用模型离全面替代专用系统还有距离。
  • 140 亿参数版本在单颗 v6e TPU 上处理 81 帧仍需 10.03 秒。它比迭代扩散直接得多,但是否适合实时或资源有限的场景,论文现有结果还不能回答。

供稿材料 SOURCES — 1
01
Video Generation Models are General-Purpose Vision Learners arXiv (cs.AI+cs.LG+cs.CL+cs.CV+stat.ML) · PAPER
原文 ↗

← 返回 2026-07-16 · 学术板块