跳到正文
OpenReview · Representation learning·· 2026-05-07精选AI 评分74

面向接触密集型机器人强化学习的自监督多感官预训练

Self-Supervised Multisensory Pretraining for Contact-Rich Robot Reinforcement Learning

AI 导读

基于摘要分析。本文研究接触密集型机器人操作中视觉、力觉与本体感觉的联合表征学习,提出 MultiSensory Dynamic Pretraining(MSDP),通过自监督多感官预训练及非对称策略学习架构,应对感官噪声与物体动力学变化。研究对象是机器人控制,并非 EEG 或 BCI。 MSDP 基于掩码自编码,以部分传感器嵌入重建多感官观测,训练基于 Transformer 的编码器,促进跨模态预测与传感器融合。下游策略学习使用冻结的嵌入:critic 通过 cross-attention 提取动态、任务相关特征,actor 则接收稳定的池化表征。其方法重点是区分价值评估与动作生成所使用的表征接口,而非让二者采用相同的特征提取方式。具体重建损失、掩码方式及预训练数据规模尚未验证。 作者报告,在仿真及真实机器人的多项接触密集型操作任务中,MSDP 加快了学习,并在传感器噪声、物体动力学变化等扰动下保持鲁棒性;真实机器人实验中,仅需 6,000 次在线交互即可获得较高成功率。摘要未提供具体任务名称、成功率数值、对照基线及交互计数口径,不能据此判断改进幅度;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可检验的迁移假设是,跨模态掩码重建可能有助于 EEG 与辅助生理或行为信号在噪声、部分信号缺失时形成互补表征。该假设依赖足够且时间对齐的多模态观测;可复用的是掩码重建与融合机制,需要改造的是 EEG 时序编码、采样率对齐及下游任务接口,机器人 actor–critic 设计不宜直接套用于 EEG 分类。低信噪比、跨被试差异、通道变化及小数据可能使模型依赖辅助模态或产生负迁移。小规模检验可在固定跨被试划分下,对比 EEG 单模态、直接多模态融合与掩码预训练,在相同标注量下测试辅助模态缺失及噪声扰动;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 MSDP 如何将多感官掩码重建与非对称 actor–critic 表征接口结合,以兼顾策略学习稳定性和任务适应性;其对 EEG 多模态学习的价值尚未验证。

来源:OpenReview · Representation learning · openreview.net