← 全部文章

研究预览 / 运动控制

DeFM-WMP从地形感知到四足运动控制。

融合 DeFM 深度视觉表征与 WMP 世界模型感知框架,扩展多地形训练,让四足机器人在变化的地形中连续运动。

抽象地形网格与连续运动轨迹
感知、记忆与动作,连接变化中的地形。概念示意,非实验轨迹。

一套策略,通过多种地形

DeFM-WMP 将 DeFM 深度视觉表征与 WMP 循环世界模型结合,并在扩展的地形课程中训练统一的四足运动策略。机器人根据地形深度、运动历史和速度命令实时调整动作,无需为坡面、台阶、桥梁或跨栏分别切换控制器。在展示的 16 类 level-8 仿真地形中,这套系统完成了连续通过,呈现出 one policy 跨地形运动的能力。

01 / 先看机器人如何通过地形

16 段连续仿真录像组成 4 × 4 地形展示,覆盖坡面、台阶、石阵、桥梁、花坛、攀爬与栅栏。每段保留 12 秒完整过程,记录条件为 level 8、前向命令、零重置且前向位移不少于 6 米。

同一套 DeFM-WMP 运动策略面对不同的地形几何,连续完成接近、跨越与前进。点击视频查看完整过程。
16地形实录
12 s每段连续录像
0每段录像重置次数

02 / 从深度观测到关节控制

这套系统包含两条相互配合的路径:世界模型从深度与本体观测中维护运动记忆;控制策略结合这份记忆、近期观测历史和速度命令生成动作。RSSM 是连接感知与控制的中间环节,其后仍有特征编码、策略网络和低层控制器。

图 1|完整计算路径。实线表示运行时的数据流,虚线表示训练监督。RSSM 的确定性状态送入策略特征编码器;重建与奖励预测使用完整潜状态。历史观测和速度命令另行进入 Actor,动作经 PD 控制转为关节力矩。

保留空间结构,学习面向控制的读出

DeFM 视觉前端将深度观测编码为空间 token,使地形的局部结构能够进入后续学习。可训练读出融合全局与局部特征,再与本体状态编码汇合,形成世界模型的观测表征。这条路径把地形信息与机器人自身的姿态、关节状态联系起来,为循环状态估计提供共同的感知基础。

用动作推进记忆,用观测修正状态

RSSM 先依据上一时刻的潜状态与一段动作历史推进确定性记忆,再结合当前观测嵌入推断随机后验。下面用 k 表示世界模型更新时刻,A 表示两次更新之间的动作序列。这个顺序很关键:当前观测首先更新随机状态 z,再通过后续递推影响确定性记忆 h。运行中的世界模型按深度更新间隔执行,策略在其间复用最近的 h。

潜状态更新
(1)

训练时,先验与后验之间的 KL 约束与深度重建、本体重建、奖励预测共同塑造潜状态。解码器提供学习信号;在线动作生成不需要先解码一张深度图。

从潜状态走到真实的关节控制链

实际 Actor 接收三部分输入:确定性记忆 h 的编码、最近五帧观测历史 H 的编码,以及速度命令 c。随机状态 z 不直接拼入 Actor。策略输出 12 维动作,经缩放与参考姿态偏置得到关节位置目标,再由 PD 控制器产生力矩。训练侧另有使用特权观测的 Critic,以及基于参考运动的 AMP 判别器,为策略提供价值估计和运动风格奖励。

动作与关节目标
(2)

视觉记忆、近期运动反馈与速度命令在策略中汇合,最终转化为关节目标。由此,地形感知能够沿着状态估计、动作决策和低层控制这条链路,持续参与机器人的运动。

03 / 从连续路面,走向复杂立体地形

窄梁与梅花桩,把落脚空间压缩到有限的支撑面;花坛与坡台,让机器人面对高度突变和边缘跨越;栅栏与低矮通道,则同时考验腿部协调和身体姿态。我们将这些挑战纳入同一训练体系,让策略在丰富的几何变化中学习接近障碍、完成跨越、恢复前进的动作衔接。地形随课程逐步加难,从基础行走延伸到更复杂的运动任务。

参考文献

[1] Lai et al. — World Model-based Perception for Visual Legged Locomotion. ICRA 2025. · 代码 ↗

[2] Patel et al. — DeFM: Learning Foundation Representations from Depth for Robotics. 2026. · 代码 ↗

结论:DeFM-WMP 实现 one policy 多地形适配

DeFM-WMP 把 DeFM 深度视觉、WMP 循环世界模型和四足运动策略连接为完整的感知—记忆—控制链路。16 类地形的连续仿真录像展示了机器人用一套策略应对坡面、台阶、窄桥、石阵、花坛和栅栏等不同挑战:根据空间结构选择落脚位置,在跨越后恢复稳定前进。地形变化由策略在运行中处理,无需按障碍类型手动切换控制器。