跳到正文
OpenReview · Representation learning· Jianxiong Li; Jinliang Zheng; Yinan Zheng; Liyuan Mao; Xiao Hu; Sijie Cheng; Haoyi Niu; Jihao Liu; Yu Liu; Jingjing Liu; Ya-Qin Zhang; Xianyuan Zhan·· 2024-05-02精选AI 评分77

DecisionNCE:通过隐式偏好学习获得具身多模态表征

DecisionNCE: Embodied Multimodal Representations via Implicit Preference Learning

AI 导读

基于摘要分析。本文研究自主机器人中的多模态表征学习,提出 DecisionNCE,以统一目标联合建模图像序列的局部与全局任务进展、视觉表征的时间一致性,以及轨迹级语言指令对齐,旨在替代分别优化这些目标的做法。 核心机制是把正确匹配的视觉轨迹与语言指令相对于错配组合的优势视为隐式偏好,通过适当的奖励重参数化,将 Bradley-Terry 偏好模型转化为表征学习目标。所得目标具有 InfoNCE 风格,但面向决策任务设计;摘要称其通过隐式时间对比学习约束时间一致性,并通过多模态联合编码实现轨迹级指令对齐。具体奖励参数化、正负样本构造、编码器结构及训练规模尚未验证。 作者报告,在模拟机器人和真实机器人上的评估表明,DecisionNCE 能支持多种下游策略学习任务,并可用于统一表征与奖励学习。摘要未提供具体任务、数据集、数据划分、对照基线或量化指标,因此不能据此判断收益幅度及其适用边界;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务同时具有连续信号轨迹、明确的任务进程与可靠配对指令,其隐式偏好目标可能为时间表征与语义对齐提供可检验的思路,而非已证实的 BCI 方法。可考虑复用偏好对比目标,但需将视觉编码器改为 EEG 编码器,并重新定义时间片段、进展语义和匹配关系;EEG 的低信噪比、跨被试差异、通道变化及小样本条件可能使配对偏好失真。一个小规模验证可在具备真实配对指令的固定 EEG 数据划分上,对比该目标与普通跨模态对比目标,分别检验时间一致性和跨被试解码表现。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其将轨迹—指令隐式偏好经 Bradley-Terry 模型转化为统一表征学习目标的机制,但机器人实验结论不能直接视为 EEG/BCI 有效性证据。

来源:OpenReview · Representation learning · openreview.net