跳到正文
OpenReview · Representation learning· Jianxiong Li·· 2024-05-02精选AI 评分78

DecisionNCE:通过隐式偏好学习实现具身多模态表征

DecisionNCE: Embodied Multimodal Representatioins via Implicit Preference Learning

AI 导读

基于摘要分析。本文研究自主机器人中的具身多模态表征学习,提出 DecisionNCE,试图用统一目标同时提取图像序列中的局部与全局任务进度信息、维持视觉表征的时间一致性,并实现轨迹级语言指令对齐。其主要研究对象是机器人视觉轨迹与语言指令,而非 EEG 或 BCI。 核心机制是利用隐式偏好:视觉轨迹与其对应语言指令的匹配程度应高于不匹配组合。作者通过适当的奖励重参数化,将 Bradley-Terry 偏好模型转化为表征学习目标,得到形式类似 InfoNCE、但面向决策任务的框架。摘要将时间一致性归于隐式时间对比学习,将轨迹级指令对齐归于多模态联合编码;具体奖励参数化、匹配与不匹配样本构造、编码器结构及训练细节尚未验证。相较于分别设置多个目标的方法,本文的主要主张是以统一目标协调这些学习需求,而非仅增加一种模态。 作者报告,在模拟机器人与真实机器人的评估中,DecisionNCE 能支持多种下游策略学习任务,并可用于统一表征与奖励学习。摘要未提供具体任务、数据规模、划分、对照方法或定量指标,实验协议、消融及统计信息尚未验证,因此不能据此判断相对提升幅度或泛化边界。 平台推测(待验证):若 EEG 任务具有可定义的阶段进度及与之配对的指令或任务描述,其隐式偏好目标可能为时间表征与语义对齐提供可检验的机制假设。可尝试复用偏好建模目标,但需改造视觉编码器、时间采样及负样本构造;EEG 低信噪比、跨被试差异、通道差异与小样本可能使匹配关系被非任务因素主导,且机器人任务进度不一定对应 EEG 的可辨识状态。一个小规模检验是在被试内、按完整试次隔离训练与测试的数据上,对比加入和不加入该目标时的阶段解码表现,并以打乱指令配对作为对照。相关 EEG 工作尚未检索确认,这一迁移假设不属于原论文已验证结果。

阅读价值

值得核对其如何通过 Bradley-Terry 偏好模型的奖励重参数化,将任务进度、时间一致性与轨迹级语言对齐统一到一个表征学习目标中;摘要尚不足以验证各机制的独立贡献及其对 EEG 的适用性。

来源:OpenReview · Representation learning · openreview.net