量子位 昨天
用世界模型给VLA当教练,原力灵机发布DW0.5,把RL搬进虚拟世界
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

代码 Agent 这两年为何进步飞快,成为 AI 界的宗门大师兄?

因为这玩意儿自己个儿就超!闭!环!的!

代码 Agent 可以自动执行、自动验证、自动反馈。写了代码跑一下就知道对不对,奖励信号非常清晰明确。

这给后训练(Post-training)阶段的自反馈闭环提供了完美条件。

同样是 AI 界大热门,具身智能目前就缺少这种 " 神助 "。

它面对的物理世界比代码 Agent 面对的世界复杂多了,而且很难得到即刻验证。

它接收的信号不像代码那样有一个编译器就能判定,它们模糊、昂贵,而且每一次真机试错都意味着真金白银的人力和硬件损耗。

VLA(视觉 - 语言 - 动作模型)是具身智能中最早受到关注的技术路线。

但很快,大家发现这个技术存在物理理解缺失、泛化能力极弱、长时序与规划能力不足等等问题,做不到 " 一家独大 " 包打天下。

大家有点着急。后来,世界模型又成了行业里的新宠儿。

但世界模型似乎也不是灵丹妙药(至少目前来看是这样的)……

这也不行那也不行,具身智能,你到底要怎样啊??

这个时候,原力灵机相关负责人站出来表态:

我觉得特别愚蠢的一件事情是在「技术路线」上给自己贴标签。这件事情是特别蠢的。

应该以目标导向。你要解决什么问题,挑选对应的方法去解决它,而不是说我是什么方法的、什么流派的,为此来证明只有我才是标新立异的。

他介绍,大约今年过年前,原力灵机意识到可将世界模型作为后训练的一部分。

一晃眼半年过去了。这个月,原力灵机发布了旗下首款具身世界模型 DW0.5,并将它接入世界模型驱动的具身智能后训练框架 DFOL2.0。

" 这套基模支持多模态输入,包括任务指令、图片和视频,还能选定机器人类型。我们可以凭借历史动作,预测后续视频状态。" 原力灵机联合创始人汪天才说。

他介绍道,DW0.5 用上万小时真机、多视角数据完成联合预训练,仿真能力很强,能生成各类画面。

不光能做出机械臂正常作业的视频,就算参考错误动作,也能还原任务失败的场景,以此支撑 DFOL2.0 框架的在线强化学习训练。

DW0.5 作为一个高保真仿真器,把强化学习搬进虚拟世界。

VLA 先给出候选动作,DW0.5 在虚拟环境中预演未来,判断成功、失败与偏离风险,再把可用反馈送回强化学习。

按其披露的数据,这套流程可让后训练中真机数据需求骤降 60%,整体训练成本下降 40%。

具身智能行业急需低成本反馈闭环

想了解 DW0.5,咱们先来看清它解决了什么样的行业问题。

具身智能属于物理 AI,它的目标是让机器人在不同环境、不同物体和不同失败条件下持续变强。

可惜后训练飞轮一直跑不起来。

真机一次 rollout 需要占用机器人、场地和人工,一次动作失败可能直接让任务中断;人工反馈虽然更接近真实判断,但难以高频覆盖每个中间状态;仿真环境成本确实低很多,但现实中的接触、遮挡、反光、形变和不确定性又很难被完整复刻。

基于这个现实,原力灵机从技术侧提出了判断:VLA 需要一个介于真机、人工反馈和传统仿真之间的训练环境。最好它足够便宜、能支持高频探索,还更接近真实操作过程。

然后新的办法就被脑暴出来了。

用真实 Rollout 数据校准世界模型,世界模型支持低成本大规模的环境与数据生产,新的 policy 再回到真实环境验证和收集数据。

DW0.5 就承担了原力灵机 VLA 模型(DM0.5)后训练中的 Learned Environment 的角色。

DW0.5 三大专家模块重构仿真逻辑,全方位提升泛化能力

DW0.5 能预测动作执行后的未来状态,甚至生成失败轨迹,并对任务进度打分。

具体而言,DW0.5 以 Video Expert、Action Expert、Value Expert 三大专家模块组成能力链路。Video Expert 与 Action Expert 共同服务动作后果预演,Value Expert 负责价值评估与反馈构造。

这三个设计的思路各有讲究。

设计一:Action 是强先验,而不是软提示

在部分世界模型里,动作信息只是一个附带的条件输入。但 DW0.5 把动作当成结构性的强先验。

它必须知道 " 机械臂在往这个方向移动 ",才能预测出物理上合理的后续画面。

DW0.5 把 action 当作视频生成的一等条件,通过结构化的帧级对齐强制绑定。

在 MoT(Mixture of Tokens)注意力中,动作序列与视频序列拼接,并用 group-diagonal attention mask 切断视频帧与非对应动作之间的信息通路。

从结构上,执行向左推和向右推的动作,从一开始就走向完全不同的计算路径。

讲道理,我们观察到近期学术界对这个技术趋势有范围不小的探讨,即主流 VLA 不做视频预测,只做 observation 到 action 的映射。

DW0.5 这类用视频预测作为辅助监督的模型,理论上能学到更强的因果动态理解。

设计二:能模拟失败,才配得上叫 " 仿真器 "

只有成功轨迹数据训练的模型容易形成过强的成功偏置,这样的系统无法识别错误动作,更谈不上为强化学习提供惩罚信号。

同时,失败轨迹数据的价值对后训练来说挺珍贵的。

因此 DW0.5 被明确要求能够生成 " 做砸了 " 的视觉轨迹,让 Value Expert 可以对比成功与失败的差异,给出有区分度的打分。

成功

失败

其数据策略围绕模拟失败设计,让模型既学习 " 应该怎么做 ",也学习 " 做错了,世界会变成什么样 "。

团队表示,DW0.5 有四类数据源:

具身公开数据与自采机器人数据(包含遮挡、接触、延迟等真机噪声)

互联网视频数据(补充开放世界动态)

Egocentric 第一视角人类活动数据(迁移真实物理交互后果)

真机与仿真 rollout 数据(覆盖偏离、卡住、恢复等中间状态)

设计三:Value Expert 把未来变成可训练的反馈

这是 DW0.5 从 " 视频世界模型 " 走向 " 训练环境 " 的关键一步。

Video Expert 模拟动作后果,Value Expert 把后果转成可优化信号,两者结合,才构成完整的 RL 训练闭环。

DW0.5 引入 Value Expert 是为了把生成的未来转化为更密集的价值信号。

具体讲,Value Expert 它对当前状态、候选轨迹或整段 rollout 给出成功概率或任务价值评估,将稀疏的任务结果信号转化为可以在每一步使用的中间反馈。

在闭环系统中,Value Expert 可以用于:

候选动作筛选:对多个 rollout 打分,让 VLA 选择更可能成功的未来。

RL 后训练的 reward 信号:在世界模型环境中对 VLA 做策略优化,无需频繁占用真机。

部署时的在线监测:发现当前状态偏离成功路径,及时触发重新规划或失败恢复。

数据显示,DW0.5 的 Value-Order Correlation 达到 95% 以上。

三个设计服务同一个闭环,让 DW0.5 在 VLA 的训练和部署中扮演离线数据增强与偏好构造、RL 后训练环境、部署时规划与安全评估三种角色。

依托 DW0.5 训练 - 调优 - 部署的全闭环赋能能力,模型在工程化泛化表现方面同样值得关注。

1)高阶指令与多步动作跟随

模型不仅能精准理解 "Pick up the hammer, lift it into the air, and hold it steady(拿起铁锤、举至空中并保持稳定)" 等高难度多步长指令,还能丝滑实现跨构型的动作跟随。

2)多维连续泛化

在面对复杂长尾场景时,展现出了强大的跨环境、跨任务、跨构型的泛化生成实力。

跨本体

跨任务、跨环境

3)多视角强一致性

在模拟生成机器人前视、左腕、右腕等多相机流时,展现出完美的空间与时序一致性。

4)动作 - 视频生成高度一致性

能够直觉化地理解人类的双手操作视频,并将其丝滑且等效地生成为机械臂的操作轨迹。

左上为生成的视频,左下为初始帧,右侧为 action condition 可视化让世界模型在具身智能产业大规模落地

说了这么多架构和原理,最终还是要回到一个问题:

DW0.5 到底怎么用?

整体来看,DM0.5 作为基础策略模型,DW0.5 负责动作后果预演与价值反馈,RL 将两者链接。

基座模型 DM0.5 先生成一批初始动作,推给世界模型 DW0.5

—→ DW0.5 当仿真器,在虚拟环境里把这些动作会导向的未来 " 跑 " 出来,批量生成成功和失败的轨迹

—→再由一个强化学习教练员 CFG-RL,给每条轨迹的任务进度打分(成功的价值一路走高,失败的价值断崖下跌)

—→打分和奖励实时回传,更新模型权重,喂出一个更强的 DM0.5

这个循环里大部分数据由 DW0.5 在线生成,不用全部靠真机翻来覆去高成本地去试。

噫吁嚱!

具身智能的世界里,世界模型终于有了一个明确的、能规模化应用在机器人部署过程里的岗位!

纸上谈兵终觉浅。可以看到,在打气球、晾衣服、叠纸盒等高难度复杂任务中,接入 DFOL 2.0 的模型相比单纯 SFT(监督微调)基线,关键步骤成功率骤然提升。

打气球任务:" 给气球打气 " 这一步成功率从 10% 升至 90%;" 气筒插入气球 " 成功率从 10% 跃升至 100%。

晾衣服任务:" 成功挂上衣架 " 这一长时序操作的 SFT 成功率仅 50%,DFOL2.0 加持下翻倍至 100%;" 衣架塞入衣服 " 的成功率也从 60% 提升到了 90%。

叠纸盒任务:" 叠右侧纸盒 " 和 " 叠左侧纸盒 " 两大难点步骤,成功率分别从 35% 拉升到了 55% 和 50%。

评测集这边,DW0.5 还在 EWMBench、WorldArena 等基准测试中横扫榜单,分别以 4.73、73.54 的分数,斩获全球 SOTA(数据截至 7 月 9 日)。

真实部署进展方面,原力灵机表示 DW0.5已在内部跑通具身后训练闭环流程 DFOL 2.0,开始承担数据生成、价值评估和策略迭代工作。

同时,这套技术能力已接入原力灵机推出的 DexDev MaaS(Model As a Service)平台。

对于特定具身场景中零样本泛化能力不足的模型,可通过后训练补足能力,并接回平台服务。

值得强调的是,原力灵机再三对量子位强调并肯定了真实数据无可替代的价值。

" 我们只是用世界模型降低成本,真机数据还是很重要的。在技术演进上,世界模型目前仍需真机校准。" 原力灵机联合创始人汪天才说。

我们问原力灵机,关于世界模型在具身智能领域的运用,还有哪些其他想法?

得到的答案是这样的——

随着视觉模型能力的不断提升,现场人员可以借助 Ego 相机采集操作数据,减少对专业真机采集和复杂后训练团队的依赖,降低现场后训练的门槛。

那么,就让时间来检验这个答案吧~

GitHub

https://github.com/dexmal/opendw

Hugging Face

https://huggingface.co/Dexmal/DW05-Base

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—    —

点亮星标

科技前沿进展每日见

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 物理 大师兄
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论