608 维、84 毫秒、19.5%:这一周,世界模型把「动作」从标签改成了接口

十月最后一周,阿里达摩院 RynnWorld-Latent、哈工大深圳 SkeLAM、TAPESTRY 与一篇讲潜空间可预测性的论文集中出现,四份答卷答的是同一个问题:动作该由谁来定义。本文拆解 608 维通用隐动作、骨架监督的分解、可预测潜空间与「动作即视频 patch」四条路线,并对照同一天发布的 Genie 4,给出判断:动作表示的标准化会比模型规模更早决定谁能用上互联网级视频。

十月二十七日,arXiv 机器人板块的新论文列表上,两篇带 action 的标题排得很近。一篇把动作写成 608 维的向量,一篇把动作写成一个视频 patch。同一天,DeepMind 发布 Genie 4,演示里人按着键盘在生成的世界里走,一句话把天气改掉——整段体验没有一个关节角。

一天之内,三拨人在讨论同一件事,用的却是三种互不兼容的「动作」定义。这不是巧合,而是当下世界模型这条线的核心矛盾:定义动作的方式,已经比模型大小更硬地约束了你能用什么数据。

上周的动作词典篇算过一笔账:广交会上一只灵巧手能感知 0.005 牛顿的轻触,模型训练时读到的往往只是一个关节角;结论是行业在给动作造一层可翻译的中间物,但五套词典没有一本是公共的。这一周的四篇,恰好是四份公共词典的投标书——竞标的不是词条,是索引方式。

四篇论文,四个数字:608 维的通用隐动作、19.5% 的末端误差降幅、5 倍的推理成本差、84 毫秒的动作 chunk。背后是四种对「动作从哪来」的答法:从数据里学、从本体里读、从可预测性里约束、从主干里塞。

一、608 维:把动作压成通用坐标

数据瓶颈那篇记过一个死结:遥操作一天一百五十条,缺口五个数量级;而互联网上的人手操作视频多到用不完,机器人却吃不下,因为没有动作标签。

阿里达摩院的 RynnWorld-Latent 换掉了「标签」这个概念。它不要求视频带动作标注,而是用一个叫 RynnLAM 的隐动作模型,从当前帧和隔一段时间的未来帧里,把观察到的视觉变化压成 608 维向量。三段分工:前 512 维(8 组 64 维)编码运动 token,描述场景里什么在动、往哪动;中间 64 维是共享动作空间里的隐变量;最后 32 维专门编码相机位姿。

最妙的是那 32 维。相机自运动与物体运动的解耦,是这套东西能不能成立的前提——不然镜头一平移,模型就以为末端在动,学出来的动力学全是假的。

工程上有两个细节决定成色。一是 RynnLAM 先算好、再冻结,视频主干只吃这个向量,永远看不到原始指令——于是一段人手视频、一条 Franka 演示、一次四足仿真推演,都能通过同一个接口给同一个世界模型供信号。二是规模:23 个数据集、约 5.535 亿帧混训。效果侧给了两条生成路线,数字遥操作用目标机器人指令生成「动作—视频」演示,隐动作合成把源运动迁移到编辑过的首帧再配一对重定向伪动作;两条路线在论文自设评估下都优于只用真实演示,LIBERO 系列上合成数据做 mid-training 能抬高策略成功率。

要打折:这个「更优」是论文自设评估,不是「合成数据替代真机」;LIBERO 是仿真榜单,刷榜换不来产线成功率。

真正值得记的判断不在数字上:这条路线把「没有动作标签」从缺陷改写成了冗余。 5.5 亿帧里绝大部分没有机器人指令,过去它们只是预训练的边角料,现在是主粮。

二、19.5%:给隐动作装一根骨头

RynnWorld 的路子是「所有变化压进一个向量」。SkeLAM 的问题很直接:这个向量里混了太多东西。

论文的问题陈述比同类准:靠重建目标训出来的隐动作,会把机器人自身的运动、物体的响应、场景的其他变化全糊在一起。后果很具体——同样的末端轨迹,接触状态不同,物体反应就不同,于是隐动作跟真实控制指令对不上。拿它做条件,条件本身是脏的。

它的答案是分解。隐动作拆成两半:运动学分量由机器人骨架监督,只描述本体怎么动,把场景外观抽象掉;残差分量保留其余视觉变化,负责物体怎么响应。重建时用 cross-modal swap reconstruction,逼 RGB 派生与骨架派生的运动学表征可互换,强制两种模态对齐到同一套运动语义。世界模型用两条独立通路吃这两半,再加 branch dropout,防止模型偷看残差里由未来帧泄露的信息。还有一个容易被忽略的模块:轻量 adapter 把真实动作映射进运动学空间,再做世界模型微调——这是把隐动作重新接回控制指令的脐带。

证据侧:DROID 上末端位置误差(ADE)比 DreamDojo 低 19.5%,感知距离 LPIPS 低 11.1%;定性上能做到零样本人手到机械臂的运动迁移——人手推毛巾,生成画面里的机械臂跟着下探;人手抽纸,机械臂转而抬起,全程冻结参数。

按老规矩读两层。第一层,19.5% 只在一个数据集、一个对比对象上成立,DreamDojo 不是天花板。第二层,「零样本迁移」在视频里成立的是方向对,不是精度够——推毛巾、抽纸能迁,拧螺丝未必。

真正重要的是那个分解动作:把动作拆成「本体运动」与「世界响应」两半,比 19.5% 重要。 两半的误差来源根本不同,前者是标定与运动学,后者是接触物理;混在一个向量里,你连错在哪都分不清。

三、5 倍:潜空间本身得先「可预测」

这篇没有新模型,只有一个论点,但可能是这一周最基础的一篇。

现状是:视频世界模型在「为重建而训练的 autoencoder」的潜空间里做预测。这个潜空间优化的是「画面能不能还原」,不是「下一步好不好猜」。另一条路是为潜空间规划优化的世界模型,它们让潜空间好预测,却放弃了像素级重建。两头都有亏。

这篇证明两头可以同时要:用时间维度的表征学习目标,配以过去为条件的解码器,同等训练预算下生成与预测同时改善。数字很实:推理便宜至多 5 倍,训练快 7 倍以上,分布外与长程的像素误差、感知误差降低 15% 到 24%。还有一条更贴评测的——用视觉语言模型从像素预测里判任务成败时,结论跟真实策略评测的一致性也提高了。

最后这句值得单拎出来,它直接接到仿真认证那篇的判断上:仿真的终局客户不是训练,是认证。世界模型要当考官,前提是它的预测能被当分数用。潜空间设计得好不好,最后体现在「判得对不对」,不是「画得像不像」。

四、84 毫秒:不在推理时生成视频

TAPESTRY 走的是最工程的一条路,也最省钱。

起点是个矛盾:预训练视频模型里存着大量物理交互先验,但要用它做控制,通常得在测试时真的生成视频——太贵;或者另起一个动作头从头训——又没用上主干。

它的做法是把动作当成潜空间里的单 patch token:一个轻量线性投影把每个动作时间步映射到预训练 VAE 的 patch 维度,这些 token 走和视频完全相同的 patchify 层与 transformer 主干。同一个主干上按 minibatch 元素采样三种扩散目标:纯视频扩散建动力学先验、视频加动作联合扩散(耦合扩散时间步、非对称注意力掩码,让动作只看干净的图像 latent)、纯动作扩散。推理时从纯噪声出发,单步 DDIM 出动作 chunk。

成本:消费级硬件上 84 毫秒一个 chunk。两周前那篇世界动作模型盘点里,关键对照是 107 毫秒对 244 毫秒——「不做未来想象更省」被翻了案。TAPESTRY 又推一步:不是不做想象,是把想象挪到训练期,把推理压到一个 patch 的长度。 这对部署的意义比对榜单大:10 赫兹意味着 100 毫秒预算,84 毫秒余量不多,但至少进了同一个数量级。

五、Genie 4:世界那一侧推到极限,动作接口仍然缺席

同一天发布的 Genie 4 值得摆进来做对照,因为它最容易被误读成「世界模型又进一步」。

官方口径清楚:Genie 4 原生多模态,生成世界的同时生成环境音、音乐与互动对话;Gemini Omni 把模拟锚定在真实世界的外观与行为上,其他 Gemini 模型提供维持连贯性所需的推理;用户可用自然语言中途改天气、移镜头、加人或物;物理侧强化了空气动力学与碰撞模拟。形态是研究预览,先给受信任测试者,随后开放给 Project Genie 的 AI Ultra 订阅用户与 Gemini API、AI Studio 早期合作伙伴。

媒体补了两条:模拟窗口最长约两分钟、约为上一代两倍;实时体验由 Gemini 3.8 Flash 驱动,并称谷歌正研究它能否用于训练机器人,广泛采用尚不清楚。

定位很清楚:Genie 4 把「世界」这一侧推到了新高度,但它没有回答「机器人怎么在自己的动作空间里跟这个世界对齐」。 演示里的输入是键盘和自然语言,不是关节角,也不是末端位姿。

这不是批评,Genie 的落点本来在游戏与影视预演。但两件事得分开看:同一天发布,回答的是不同的问题——决定机器人能不能用它的,是那个没人演示的接口。

六、四个判断

第一,动作表示的标准化,会比模型规模更早分出胜负。 世界动作模型那篇记过一个反直觉结果:6.0B 答对 51.5%,57M 答对 85.9%。当时的解释是病灶从「没有世界状态」前移到「世界状态不听动作的话」。这一周的四篇是同一诊断的四种处方:不是模型不够大,是条件写得不对。

第二,评测效度会成为最硬的闸门。 SkeLAM 里最值钱的不是 19.5%,是那句「预测的成功率与真机测得的成功率一致」。这是世界模型从「能画」到「能判」的分界线,也是上周说的「谁来打分」在世界模型侧的具体形态。有个前提常被跳过:要当考官,动作接口必须先和真实控制对得上。

第三,开源许可的分岔已经在画地图。 RynnWorld-Latent 据第三方报道走 Apache 2.0 开放权重,NVIDIA 的 Flora 走非商业许可。同一周两份许可,两种生态位置:一个换采用率,一个留商业口子。国产这次选的是前者——上个月那份势力图说「部署之后才是主战场」,开源许可是部署的前置条件。

第四,闭环这件事上,这周给了一条可操作的选型标准。 本专栏关心的那条链路——真机采集的动作与多目图像进渲染器、新视角回灌成感知输入——最怕的不是渲染质量不够,而是生成侧的条件与下游感知的输入不同源。世界模型吃的是从视频学来的隐动作,闭环里灌的却是真实控制指令,中间就多一层没人观测的偏差,而且它不会在任何单点指标里显形。所以选型该问的不是「你的世界模型多准」,而是:你这个动作向量,能不能被真实指令复现,误差多大?

补一条国产注脚:十月下旬云深处放出的五项成果里,世界模型 DR-WM-1.0 宣称首次在四足世界模型里引入摩擦、粗糙度、刚度等物理先验,配套的 DR-APO 把 NavDP 的仿真成功率从 70.33% 抬到 89.55%——厂商与媒体口径,独立复现还没有,但方向一致:给动作加物理约束,是这一轮共同的下一步。

四份答卷,四种索引方式,没有一份成为公共标准。词典还没编完,索引先打起来了。下期见。

信息源说明:官方一手信息包括 arXiv 2610.36791(RynnWorld-Latent,10 月 27 日提交,23 个数据集约 5.535 亿帧、RynnLAM 与 608 维构成、两条数据生成路线、LIBERO 系列 mid-training 结果)、arXiv 2610.31474(SkeLAM,哈工大深圳与 NUS Show Lab、平安科技,运动学与残差分解、cross-modal swap reconstruction、branch dropout、DROID 上 ADE 降 19.5% 与 LPIPS 降 11.1%、零样本人手到机械臂迁移)、arXiv 2610.34663(Video World Models Need Predictable Latents,10 月 26 日提交,时间维度目标配 past-conditioned decoder、推理便宜至多 5 倍、训练快 7 倍以上、误差降 15% 至 24%)、arXiv 2610.36823(TAPESTRY,CoRL 2026,动作作为视频 patch token、三种扩散目标与非对称注意力掩码、单步 DDIM、84 毫秒每 chunk),以及 Google DeepMind 与 Google 官方博客 10 月 27 日 Genie 4 公告。媒体报道包括中国青年报与重庆日报对 Genie 4 的报道(两分钟窗口约为 Genie 3 两倍、实时由 Gemini 3.8 Flash 驱动、机器人训练用途尚不明确)、腾讯新闻对 SkeLAM 的解读(Cosmos-Predict2.5-2B 底座、约十小时机器人数据)、科技日报与环球网对云深处五项成果的报道。第三方与社区分析包括 gpts24 对 RynnWorld-Latent 的拆解(RynnLAM 约 3.82 亿参数、DA3-Large 主干、Apache 2.0 开放权重说法),该许可细节未见官方模型卡核实,按第三方口径引用;文中「5 倍」「7 倍」「19.5%」「11.1%」「84 毫秒」「608 维」「5.535 亿帧」均为论文自报,未经独立复现;「两分钟窗口」「Gemini 3.8 Flash」「Apache 2.0」为媒体或第三方口径。本文关于「动作表示标准化早于模型规模分出胜负」「世界模型当考官的前提是动作接口与真实控制对齐」「闭环选型应追问动作向量能否被真实指令复现」的判断属本专栏观点,非行业共识。