跳到正文
arXiv · 多模态与生成机制· Yuhang Zheng; Yujie Zang; Yuchen Liu; Yupeng Zheng; Zhennan Jiang; Zebin Xing; Shuai Tian; Songen Gu; Jingxiang Guo; Chen Gao; Zhongpu Xia; Shuicheng Yan·· 19 小时前精选AI 评分79

以交互潜变量作为动作的接触密集型操控

Interaction Latents as Actions for Contact-Rich Manipulation

AI 导读

基于摘要分析。本文研究机器人接触密集型操控中如何同时协调运动、接触与施力,提出 ILA(Interaction Latents as Actions),将三者的演化联合编码为可解码的交互潜变量,并将其作为策略动作单元。其主要贡献是用同一表示支持动作生成、评估及离线改进,而非仅将触觉作为策略输入或辅助预测目标。 机制上,ILA 通过视觉条件化的动作—触觉联合重建学习潜变量,使用时间条件化的隐式解码器。这些潜变量作为 flow-matching 的生成目标,可用于预训练 vision-language-action models(VLAs)和 world action models(WAMs)的后训练,也可用于从零训练 flow-matching 策略;共享解码器将生成的潜变量转换为可执行动作。摘要未提供具体损失形式、潜变量维度或训练规模。 离线改进方面,作者利用专家示范编码得到的交互潜变量,学习触觉条件化的专家参考模型。专家一致性奖励用于对成功 rollout 进行加权学习,与观测兼容的专家参考则用于修正失败 rollout 中的低奖励预测。该设计将动作表示与专家参照下的改进过程联系起来,但奖励计算和修正细节尚未验证。 作者报告,在三类策略上,相对于触觉条件化的直接动作基线,四项真实机器人任务的平均成功率提高 21.0–36.5 个百分点。作者报告的消融支持:在动作目标中编码接触演化的收益不止来自触觉条件化。具体任务、试验次数、数据划分、各策略结果、消融配置及统计信息尚未验证,不能据此判断跨任务泛化或结果稳定性。 平台推测(待验证):该表示可能适用于 BCI 驱动的机器人辅助操控,但不直接解决 EEG 解码问题。假设可将 EEG 解码出的高层意图接入 ILA 策略,同时保留机器人视觉、触觉及专家示范所依赖的结构;可复用潜变量动作空间和共享解码器,需改造意图条件接口并增加安全约束。低信噪比、跨被试差异、通道变化及小样本可能使意图条件不稳定。一个可证伪的小实验是固定同一 EEG 意图解码器和机器人观测,对比 ILA 与直接动作策略在相同任务及试验协议下的成功率和接触安全指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其将运动、接触与施力演化联合编码为可解码动作单元的机制,以及与触觉条件化直接动作基线的对照;作者报告的机器人任务收益不构成 EEG 或 BCI 有效性的证据。

来源:arXiv · 多模态与生成机制 · arxiv.org