X-Sim:通过真实到仿真再到真实的跨形态学习
X-Sim: Cross-Embodiment Learning via Real-to-Sim-to-Real
基于摘要分析。X-Sim 研究如何利用缺少动作标签的人类视频训练机器人操控策略,以物体运动作为跨形态可迁移的监督信号,避免直接将人类动作映射为机器人动作。其核心贡献是串联场景重建、基于物体轨迹的强化学习、策略蒸馏与部署时在线域适应,且不需要机器人遥操作数据。 方法首先从 RGBD 人类视频重建逼真仿真环境,跟踪物体轨迹并据此定义以物体为中心的奖励,在仿真中训练强化学习策略。随后使用改变视角与光照的合成轨迹,将该策略蒸馏为以图像为条件的 diffusion policy;部署时通过在线域适应对齐真实与仿真观测。相较于直接追踪人手并映射动作,这一路径将跨形态对应关系转移到物体运动与任务进展上,但仍依赖 RGBD 场景重建、物体跟踪和可用的仿真环境。 作者报告,在两个环境中的五项操控任务上,相对于手部跟踪及 sim-to-real 基线,平均任务进展提高 30%;以十分之一的数据采集时间达到与行为克隆相当的表现,并能泛化至新相机视角及测试时变化。这里的 30% 是摘要所述任务进展提升,并非成功率或百分点变化;其指标定义、逐任务结果、数据采集时间核算方式及对照条件尚未验证。 摘要未给出在线适应的目标函数、更新参数与稳定性约束,也未提供蒸馏训练规模、数据划分、消融及统计信息,均需全文核对。该研究的主要对象是视觉机器人操控,当前材料未建立其物体轨迹奖励或真实—仿真观测对齐机制与 EEG/BCI 的具体对应关系,因此不据此提出 BCI 迁移结论或复现实验;相关 EEG 工作尚未检索确认。
值得核对其以物体运动替代跨形态动作映射、再结合仿真策略蒸馏与在线域适应的完整路径,但摘要中的机器人操控结果不能视为 EEG 或 BCI 有效性的证据。
来源:OpenReview · Representation learning · openreview.net