Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.006 — 2026-07-10
PAPER H 4 约 2 分钟

JEPA世界模型面对随机分叉

MoP-JEPA让世界模型别把多种未来平均成一个假未来。

想象你让 AI 预判一个弹球下一秒会去哪:同样的位置、同样的动作,它可能向左,也可能向右。传统 JEPA 世界模型——一种不直接预测像素、而是预测“下一刻关键状态”的内部模拟器——常常只给一个答案。问题在于,在随机环境里,这个答案可能是多个真实未来的平均值:看起来很合理,却对应不到任何真实状态。MoP-JEPA 这篇论文抓住的就是这个结构性问题。

作者认为,单一确定性预测器在这种分叉处会“塌缩”到条件均值;即使用 gated mixture-of-experts——多个专家加权后再合成一个输出——只要最后仍是一个向量,也会遇到同样问题。MoP-JEPA 的修补很直接:不用一个头猜全部未来,而是用多个预测头,每次训练时只让最接近真实后续状态的那个头学习。这样,不同头可以分别对准不同后续分支;部署时,模型一次前向计算就能列出多个可能的下一状态,给规划器做搜索。

这篇工作的价值不在于又做了一个更大的 JEPA,而是指出 JEPA 路线里一个容易被忽略的接口问题:世界模型若要支持规划,不能把随机未来抹平成一个“中间态”。论文还特别强调评估陷阱:多预测模型可能只是靠“撒得多”覆盖答案,并不真正理解当前情境。因此作者加入了 shuffled-context、router-gated readout、verified-route 等检查。具体效果数字在供稿摘录中有缺失;可确定的是,作者自述 MoP-JEPA 在 OGBench 多个任务上优于确定性、gated-MoE 和变分预测器。


供稿材料 SOURCES — 1

← 返回 2026-07-10 · 学术板块