三项满分、一项 37.1:PrimeSim 把视频模型改成仿真器,指标该看哪一层
11 月 4 日,启元具身研究中心发布世界模型仿真器 PrimeSim。它基于预训练视频生成模型,经过「中训练 + 后训练」两阶段改造,目标是替代传统物理仿真器,用来训练机器人操纵策略。权重、推理代码、训练代码将在 11 月 6 日开源。
发布材料的成绩很密集:EWMBench 综合 6.09 位列榜首,分项 HSD、nDTW、BLEU、CLIP、Logics 五项均第一;WorldSimProbe 五项里三项登顶;策略成功率与传统仿真器的相关系数 0.99;单卡 A100 推理 10.12 FPS。
这些数字都是真的。但它们回答的不是同一个问题,而且离"这东西能不能用"的距离差得很远。
这篇做一件事:把 PrimeSim 公布的指标按"离最终用途有多远"分四层摆开——视觉观感、动态保真、策略排序、增益迁移。每层标注它到底证明了什么、没证明什么。四层看完,那三个 1.000 和一个 37.1 各是什么分量,自然清楚。
先给结论:这三个 1.000 的区分度接近零,而那个 37.1 揭示的是整个赛道的集体短板,不是 PrimeSim 一家的问题。
一、它是怎么从视频模型改过来的
理解指标之前先理解改造路径,否则容易把"视频生成"和"仿真器"混成一件事。
原生视频生成模型是双向的:给一段完整文本或图像序列,一次生成整段视频,前后帧可以互相看。仿真器必须因果且自回归:只能基于过去推未来,一步一步往下滚。
把这个转换拆成两段。
中训练:从通用视频模型变成机器人世界模型
用 30110 小时精选机器人演示数据,覆盖人形、双臂、单臂、手持 UMI 设备共 22 种异构平台。三项核心设计:
| 设计 | 解决什么 |
|---|---|
| 统一动作表征 | 把头部、躯干、腰部、末端执行器、夹爪、底盘的控制信号编码进同一个动作向量,实现跨本体兼容 |
| 帧对齐双路径条件注入 | 时序对齐注意力 + 直接动作注入,把控制指令与生成的运动强绑定 |
| 视角感知交错注意力 | 引入显式相机标识完成跨视角信息交互,避免不同视角画面互相坍缩 |
后训练:让它可以一直滚下去
自回归的难点在于,模型要基于自己上一步不完全精确的预测继续推演,误差会累积;而原生视频模型只在固定长度的真值上下文上训练过。三项机制:
| 机制 | 解决什么 |
|---|---|
| 高速生成链路 | 分块因果适配 + 四步一致性蒸馏,支撑长序列连续仿真 |
| 自条件稳定性 | 以冻结的双向教师模型作参照,做 Self-Rollout 训练与非对称分布匹配,缓解误差累积 |
| 分层时序记忆 | 在有界 KV Cache 内分层存初始场景、稀疏长程历史、稠密近期运动,支撑超长推演 |
改造后的结果是:超过固定训练上下文窗口后仍能稳定推演,最长支持两分钟以上连续 rollout。
注意"两分钟"这个上限。 它比原生视频模型的几秒长得多,但距离"一个完整操作任务从开始到结束"还有多远,取决于任务。这个数字后面第八节还会提到。
二、团队自己划的三道坎
比指标体系更值得注意的是,发布材料里有一段话,主动把"视觉逼真"这条最有说服力的卖点否掉了:
仅依靠视频生成模型实现"视觉逼真"尚不充分,作为仿真底座,还需严格服从策略输出的动作指令、保持多相机视角间的几何与语义一致,并在远长于训练上下文窗口的时间跨度内维持状态连贯。
三句话,三道约束,而且团队自己承认"现有的通用世界模型大多只能满足其中一到两项"。
这个自我限定值钱。它把评价标准从"画面像不像"抬到了"物理响不响应、几何对不对、时间稳不稳"。
而三道约束与前面的三项设计基本是一一对应的:
| 约束(要什么) | 设计(怎么做) |
|---|---|
| 严格服从动作指令 | 统一动作表征 + 帧对齐双路径条件注入 |
| 多视角几何语义一致 | 视角感知交错注意力 |
| 长时跨度状态连贯 | 分层时序记忆 + 自条件稳定性 |
一致性说明这套东西不是拼出来的。但也要看清:设计能对上是"有解",不等于"解得够好"。 解到什么程度,要看指标。
三、数据先算一遍
30110 小时这个数字很唬人,但它可以拆开核。
【推算】按官方公布的平台占比反推:
| 平台 | 时长 | 占比 |
|---|---|---|
| 人形(Humanoid) | 16.5K 小时 | 54.8% |
| 双臂(Dual-arm) | 5.5K 小时 | 18.3% |
| 手持 UMI | 4.1K 小时 | 13.6% |
| 单臂(Single-arm) | 4.0K 小时 | 13.3% |
| 合计 | 30.1K 小时 | 100% |
16.5 + 5.5 + 4.1 + 4.0 = 30.1,与"30110 小时"对上。再看人形占比:16.5 ÷ 30.1 = 54.8%,与官方数字完全一致。
真实与仿真比例上,正文说"真实世界数据占比 84%“,图注写"85 : 15”,差一个百分点,属于四舍五入口径。整体自洽。
这组账能对上,说明数据构成是可核的——这在"我们用了 XX 万小时数据"这种表述里并不常见。
但数据分布本身就是一条选型判据。 人形占 54.8%、双臂 18.3%,两者合计超过七成;单臂只有 13.3%。这意味着:
| 你的本体 | 数据覆盖 | 预期表现 |
|---|---|---|
| 人形(头部+躯干+腰+末端+夹爪+底盘) | 过半 | 最强 |
| 双臂协作 | 中等 | 较好 |
| 单臂固定基座 | 一成多 | 中等,需更多微调 |
| 四足 / 轮式底盘 / 移动操作 | 未列入四个主类 | 需自行验证,别默认能迁 |
统一动作表征里编进了"底盘"这一项,说明架构上留了移动平台的口子;但数据里没有四足这个类别,架构留口 ≠ 数据覆盖。这就是为什么"跨本体"这三个字要配着数据分布一起读——它泛化的是"控制信号的编码方式",不是"任意形态的运动学"。
【推算】再把 30110 小时换算成体量:约 1255 天,等于一台设备 3.4 年不间断录制;官方另一处给的总量是 2.38B 帧、2.8M episode、1773 个仓库。平均每个 episode 约 850 帧,按 30fps 算约 28 秒——这个长度和"两分钟连续推演"的上限在同一量级,说明长时推演确实是这套数据没覆盖到的区域,所以需要后训练专门去补。
四、第一层:视觉观感(三个 1.000 的区分度接近零)
EWMBench 的分项如下,五项全部第一:
| 分项 | 得分 | 读法 |
|---|---|---|
| HSD | 1.000 | 满分 |
| nDTW | 1.000 | 满分 |
| Logics | 1.000 | 满分 |
| CLIP | 0.954 | 接近满分 |
| BLEU | 0.570 | 不到六成 |
一个基准上五项里三项打满,只有两种可能:要么模型强到把指标顶到了上限,要么这三项指标的度量方式本身已经饱和。
判断是哪一种,看 BLEU 就够了。0.570 说明这个基准并非所有分项都容易拿高分——如果 HSD、nDTW、Logics 也和 BLEU 一样难,不可能三个同时精确等于 1.000。
三个 1.000 不能用来比较模型,只能用来确认"这一项没失分"。 真正有区分度的是 BLEU 0.570 和 CLIP 0.954。
这不是 PrimeSim 的问题,是这个基准的问题:任何指标一旦被顶到 1.000,它对后续模型的排序能力就归零了。 看到满分,第一反应应该是"这个指标到顶了",而不是"这个模型完美了"。
EWMBench 的综合分更有参考价值:PrimeSim 6.09,高于 GE-Sim(LTX)的 5.82、GE-Sim(COSMOS2)的 5.79、Thinker-WM 的 5.03、EnerVerse-FT 的 4.70、Qwen-RobotWorld 的 4.60。综合分是聚合后的,还能分出差距。
但综合分有个前提没披露:五项的权重怎么分配。 如果 HSD 这类饱和项权重高,综合分的区分度会被稀释。这一条属于未披露。
五、第二层:动态保真(三项登顶,两项没登)
WorldSimProbe 是更有信息量的那个基准。它基于 LIBERO 设计五套评测,官方说法是"刻意剥离视觉观感、任务成功率的干扰,聚焦仿真器本身的动态保真度"。
这句话本身就是方法论上的进步——它明确把"画面好不好看"和"任务成功率"排除了。 而这两个恰恰是最容易被用来充数的指标。
五项结果:
| 维度 | PrimeSim | 该维度最高 | 是否第一 |
|---|---|---|---|
| T1 局部校准 | 70.2 | LingBot-VA 77.0 | 否,排第四 |
| T2 全局轨迹覆盖 | 67.9 | PrimeSim 67.9 | 是 |
| T3 动作来源行为保持 | 72.3 | PrimeSim 72.3 | 是 |
| T4 交互接地 | 85.7 | ZIBRA 87.5 | 否,排第二 |
| T5 交互动力学 | 37.1 | PrimeSim 37.1 | 是 |
官方说"3/5 dimensions lead",这个表述是准确的。但读者容易读成"五项全面领先"。
两项没登顶这件事本身不是问题——LingBot-VA 在 T1 上 77.0 领先 6.8 分,ZIBRA 在 T4 上 87.5 领先 1.8 分,各有擅场,很正常。问题是 T5。
T5 交互动力学的 37.1 是五项里绝对值最低的,而它是这一维的全球最高分。
把七个模型的 T5 排一排:
| 模型 | T5 交互动力学 |
|---|---|
| PrimeSim | 37.1 |
| ZIBRA | 30.1 |
| Ctrl-World | 25.0 |
| Cosmos-3-Nano | 25.0 |
| DreamDojo | 23.5 |
| LingBot-VA | 22.4 |
| IRASim | 22.4 |
七个模型,全部落在 22.4 到 37.1 之间。第一名也只有 37.1,第七名 22.4——这一维不是某家做得差,是整条神经仿真器路线都没做好。
对比一下其他四维的分数区间:T1 是 54.0–77.0,T2 是 41.5–67.9,T3 是 47.9–72.3,T4 是 57.8–87.5。都在 40 以上起步。只有 T5 从 22 起步,且全部低于 40。
"交互动力学"测的是什么? 是施加一个动作之后,环境/物体给出的响应是否符合物理直觉——推一下瓶子它会不会倒,按一下软物它会不会凹,抓住一端另一端会不会跟着动。这恰好是视频生成模型最容易糊弄过去的地方:画面可以很连贯,但接触力学的响应可能是"看起来对"而不是"算得对"。
所以 37.1 这个数要这么读:它是一个集体短板上的领先,不是一项能力上的达标。 如果你要用这个仿真器训接触密集的任务(布料、柔性物、多物体堆叠、精密装配),T5 才是你最该盯的那一维,而它现在全行业都在 37 分以下。
六、第三层:策略排序(r = 0.99 才是毕业证)
前两层指标测的都是"仿真器自己像不像",第三层开始测"它的判断和真环境一不一致"。
这是仿真器存在的唯一理由。你在仿真里比较十个策略,选出最好的那个搬到真机——如果仿真里排第一的策略在真机上排第五,这个仿真器再像也没用。
仿真器的毕业证不是画面,是排序。
官方这组实验设计得很标准:8 个 OpenVLA-OFT 策略,基线仿真器成功率区间 29.3%–85.0%(跨度 55.7 个百分点,足够拉开区分度),300 个共享初始状态。
结果:
| 指标 | PrimeSim | 对照 Wan2.2-FT |
|---|---|---|
| 与原生仿真器的策略成功率相关系数 r | 0.99 | 0.91 |
| 平均绝对误差 |Δ| | 2.8 | 8.3 |
| MMRV | 0.000 | 0.041 |
r = 0.99 是这份发布里最硬的一个数,而且有对照组——Wan2.2-FT 的 0.91 说明这个测试本身有区分度,不是谁来都能拿 0.99。
8 个策略 × 300 个初始状态 = 2400 个数据点,样本量足够支撑这个相关系数。平均绝对误差 2.8 个百分点,意味着两个仿真器给出的成功率预测平均只差 2.8 个点——在成功率 29% 到 85% 的跨度上,这个误差可以接受。
但这一层的证明边界也要划清楚:
- 它证明的是"与 LIBERO 原生仿真器一致",而 LIBERO 本身是物理仿真器,不是真机。所以这一层严格说是 sim-to-sim 一致性,不是 sim-to-real。
- 相关 0.99 只说明排序一致,不说明绝对值一致。如果两个仿真器都系统性地高估 10 个百分点,相关系数依然是 0.99。
- 策略只有 8 个,且都是 OpenVLA-OFT 系列。换一批架构不同的策略,排序一致性是否还成立,属于未披露。
这一层是四层里最该看的,也是最该被追问的——如果哪天有团队做出 sim-to-real 的策略排序一致性,那才是这个方向的真正里程碑。 目前公开的最好证据还停在 sim-to-sim。
七、第四层:增益迁移(那个 11.5%)
最后一层比排序更进一步:不只看排序对不对,还看在它里面训出来的东西,搬出去有没有用。
团队直接在 PrimeSim 内部对 OpenVLA-OFT 做 GRPO 强化学习,每轮采样 512 条 episode,共 200 轮更新。结果:
| 指标 | 提升 |
|---|---|
| 策略在原生仿真器(LIBERO)上的成功率 | +11.5% |
| 在 PrimeSim 内的评估指标 | +11.8% |
两个数几乎相等(差 0.3 个百分点),这件事本身就是证据:在神经仿真器里拿到的增益,和搬回物理仿真器后拿到的增益基本无损。 如果迁移有损耗,第二个数会明显低于第一个。
这是四层里唯一一次触及"训练价值"的实验,也是这套东西真正想证明的东西——不是"我能模拟",是"在我这里训练有用"。
边界同样要写清:
- 只在一个策略架构(OpenVLA-OFT)上验证,没有跨架构复现。
- 只做了一组超参(512 episode × 200 轮),RL 对超参极敏感,换设置结论可能变。
- 基线是 LIBERO 原生仿真器,不是真机。离"在真机上也能涨 11.5%"还隔着一层。
八、工程账:10 FPS 与 100 步迁移
最后看两个决定它能不能进生产流程的数。
速度。 RoboTwin 2.0 留出集、单张 A100:
| 配置 | 去噪步数 | 速度 | PSNR |
|---|---|---|---|
| 因果自回归扩散基线 | 50 | 1.12 FPS | 26.15 |
| + 一致性蒸馏(CD) | 4 | 10.04 FPS | 24.40 |
| + CD + DMD | 4 | 10.04 FPS | 24.87(LPIPS 0.193→0.176) |
整体提速约 9 倍,代价是 PSNR 从 26.15 掉到 24.87(约 1.3 dB)。官方选择用 DMD 把 LPIPS 拉回来一部分,这是标准做法——在感知指标上补,比在像素指标上补划算。
推理配置是单卡 A100-80GB、三视角、单图 288×384、一次预测 32 帧、4 步去噪,得到 10.12 TempFPS / 30.35 ViewFPS。横向比较是 GE-Sim 2.0 的 4.5 倍、Ctrl-World 的 11.6 倍。
但"替代传统仿真器"这句话要打个折。 这里有个量纲问题:
| 类型 | 吞吐的度量 | 典型量级 |
|---|---|---|
| 物理仿真器(MuJoCo / Isaac 类) | 每秒环境步数,可并行数千环境 | 每秒数万到数十万步 |
| PrimeSim 这类神经仿真器 | 每秒生成帧数 | 10 帧(单卡三视角) |
两者不是一个量纲,直接比"快慢"没有意义。10 FPS 意味着生成 1 秒视频要 0.1 秒;而物理仿真器跑 1 秒物理时间可能只要几毫秒。
所以更准确的定位是:它不是"替代"物理仿真器做大规模并行 RL,而是"补上物理仿真器缺的那块"——真实感的视觉输入、柔性物与接触的近似响应。 合理的用法是分层:用物理仿真器做海量粗筛,用神经仿真器做少量高保真复核。
这个判断和官方"替代"的说法有出入,但和它自己的实验设置是一致的——那 200 轮 GRPO 采样 10 万级 episode,是在可控规模内做的,不是"替代"级别的量。
迁移成本。 适配新本体只需百级梯度更新:
| 本体 | 所需步数 |
|---|---|
| ViperX 300 | 100 步 |
| xArm 7 | 200 步 |
| UMI 夹爪 | 200 步 |
对照组是"仅经过通用预训练的模型"——2000 步更新后仍无法产出可用效果。差 10–20 倍。
有个案例值得单独说:AgileX Piper 场景里,布料、相机位姿、场景全部未出现在训练集中。零样本推演时,密集接触的布料形变会快速漂移;单卡 A100 上不到 3 分钟、200 步微调后,布料形变跟随动作指令,多视角状态保持一致。
这个案例同时暴露了两件事: 跨本体泛化是真的(200 步就够),但零样本在接触密集场景会失败——和 T5 只有 37.1 说的是同一件事。两处证据互相印证,可信度就高了。
九、11 月 6 日开源后,先跑什么
权重和代码 11 月 6 日开源。拿到之后建议按这个顺序验,每一项对应上面的一层:
| 顺序 | 测什么 | 怎么测 | 对应层 |
|---|---|---|---|
| 1 | 复现 T1/T4 那两项 | 官方没登顶的两维,看你手上的模型能否超过 | 第二层 |
| 2 | 你的场景的 T5 | 拿 5–10 个接触密集任务,看交互动力学是否也掉到 30 附近 | 第二层 |
| 3 | 排序一致性 | 自己训 5 个策略,比 PrimeSim 与你现有仿真器的排序 | 第三层 |
| 4 | 真机迁移 | 这一步官方没做,你自己必须做:仿真里最好的策略搬上真机 | 第四层 |
| 5 | 吞吐实测 | 按你的任务长度算需要多少张卡、多少小时 | 工程账 |
第 4 项最关键。官方四层证据里,前三层都成立,第四层仍停在 sim-to-sim。 你的场景能不能用,最终要看真机。
还有两条要提前问的:
- 任务类型分布:官方数据里"家务抓放"占 18.5%、"关节物体操作"占 9.5%、“精密插装"占 8.7%。如果你的场景落在"布料折叠”"长时程活动"这些占比不到 5% 的类别里,T5 的短板会更明显。
- 许可条款:权重开源不等于可商用,开源当天的许可文本要自己看。
十、关键要点
-
三个 1.000 的区分度接近零。 HSD、nDTW、Logics 同时精确等于 1.000,说明这三项已经饱和。真正有信息量的是 BLEU 0.570 和 CLIP 0.954。指标一旦顶到满分,它就失去了给后续模型排序的能力。
-
"五项三冠"是准确的,但两项确实没登顶。 T1 局部校准排第四(LingBot-VA 77.0 领先 6.8 分),T4 交互接地排第二(ZIBRA 87.5 领先 1.8 分)。各有所长,不是问题。
-
T5 = 37.1 是全场最高,也是五项里绝对值最低的。 七个模型的 T5 全部落在 22.4–37.1,其他四维都从 40 以上起步。这不是 PrimeSim 的短板,是神经仿真器整条路线的集体短板,而它恰好对应接触力学——视频模型最容易"看起来对、算得不对"的地方。
-
r = 0.99 是这份发布里最硬的数,也有对照组。 8 个策略 × 300 个共享初始状态,与 LIBERO 原生仿真器的策略成功率相关系数 0.99、MAE 2.8;对照 Wan2.2-FT 只有 0.91 / 8.3。有区分度,说明这个测试不是谁来都能过。
-
但 0.99 严格说是 sim-to-sim,不是 sim-to-real。 LIBERO 是物理仿真器,不是真机;相关系数只证明排序一致,不证明绝对值一致;8 个策略都是同一架构系列。这个方向的下一个里程碑是真机的排序一致性,目前公开的最好证据还没到那一步。
-
GRPO 那组 +11.5% / +11.8% 的价值在于两个数几乎相等。 差 0.3 个百分点说明增益迁移几乎无损——在神经仿真器里训出来的提升,搬回物理仿真器还能留住。这是四层证据里唯一触及"训练有用"的。
-
"替代传统仿真器"要打个折,因为量纲不同。 物理仿真器每秒数万环境步、可并行数千环境;PrimeSim 是单卡三视角 10 FPS 画面生成。合理定位是分层配合:物理仿真器做海量粗筛,神经仿真器做少量高保真复核。
-
9 倍提速是用 1.3 dB PSNR 换的,但通过 DMD 把感知质量拉回来了。 PSNR 26.15→24.87,LPIPS 0.193→0.176。在感知指标上补比在像素指标上补划算,这是标准做法。
-
数据分布就是选型判据:人形 54.8% 加双臂 18.3% 超过七成,单臂只有 13.3%,四足与轮式未列入四个主类。 架构的统一动作表征里编进了「底盘」这一项,说明留了口子,但架构留口不等于数据覆盖。跨本体泛化的是「控制信号的编码方式」,不是「任意形态的运动学」。
-
30110 小时数据可核。 16.5K + 5.5K + 4.1K + 4.0K = 30.1K,人形 16.5÷30.1 = 54.8%,与官方完全吻合。平均每个 episode 约 850 帧(约 28 秒),和"两分钟连续推演上限"同量级——说明长时推演确实是数据没覆盖的区域,所以要用后训练专门补。
-
跨本体泛化是真的,零样本接触场景不行。 新本体 100–200 步微调(对照组 2000 步仍不可用),但 AgileX Piper 的布料场景零样本会漂移。这和 T5 只有 37.1 是同一件事的两处证据,互相印证。
-
拿到权重后必测真机迁移。 官方四层证据前三层成立、第四层停在 sim-to-sim。你的场景能不能用,只能自己把仿真里最好的策略搬上真机看。
- 点赞
- 收藏
- 关注作者
评论(0)