跳到正文
OpenReview · Representation learning· Rudra P. K. Poudel; Harit Pandya; Stephan Liwicki; Roberto Cipolla·· 2024-01-01精选AI 评分74

ReCoRe:世界模型的正则化对比表征学习

ReCoRe: Regularized Contrastive Representation Learning of World Model

AI 导读

基于摘要分析。ReCoRe 面向视觉导航中样本效率不足、对训练场景过拟合的问题,将世界模型、对比无监督学习与干预不变正则化结合,旨在学习对外观变化更稳健的表征;主要研究对象是视觉导航强化学习,而非 EEG 或 BCI。 机制上,显式学习环境动态的世界模型用于提高样本效率,对比学习用于促进不变特征学习。作者认为,仅将对比损失加入世界模型仍不足以解决问题,原因在于表征学习与智能体策略的优化相互独立;因此引入辅助任务形式的干预不变正则项,以显式约束表征对风格干预保持不变。摘要列举深度预测、图像去噪和图像分割等辅助任务,但具体采用方式、监督来源、损失形式及联合优化流程尚未验证。 作者报告,在 iGibson 的分布外目标点导航任务上,该方法优于所比较的基于模型和无模型 RL 方法;在仅使用视觉观测的条件下,也优于所比较的语言引导基础模型。作者另报告,在 Gibson 上实现了感知模块的仿真到现实迁移。摘要未提供具体分数、数据划分、计算成本或基线配置,因此不能据此量化增益,也不能将感知模块的迁移结论扩展为完整导航策略的现实部署验证。实验协议、消融及统计信息尚未验证。 平台推测(待验证):其“任务相关表征应对干扰因素保持不变”的机制,可为 EEG 跨被试或跨会话表征学习提供假设,但原方法依赖视觉时序、环境交互及辅助任务信号,不能直接等同于 EEG 域泛化。可复用的是对比学习与不变性约束思路,需改造干预定义、正样本构造和辅助任务;低信噪比、通道差异及小数据可能使约束误删任务信息。一个可检验的小实验是:在固定跨会话划分下,以相同编码器比较仅对比学习与加入可控幅值扰动不变约束的版本,检查其是否改善目标会话表现而不损害原任务判别能力。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是作者将对比学习与辅助任务形式的干预不变正则化结合,用于缓解视觉导航世界模型对外观变化的过拟合;其分布外泛化与感知模块迁移效果仍需结合全文协议核对。

来源:OpenReview · Representation learning · openreview.net