跨域离线强化学习中用于数据筛选的对比表征
Contrastive Representation for Data Filtering in Cross-Domain Offline Reinforcement Learning
基于摘要分析。本文研究跨域离线强化学习中的转移动态不匹配问题:直接合并源域与目标域数据可能损害策略性能,作者提出通过对比学习获得表征、估计域间差异,再筛选可共享的源域转移样本,以减少目标域数据需求。 机制上,方法从不同域采样转移样本构造对比目标,并依据学习到的对比分数函数筛选源域数据。作者称,该目标可恢复两个域的转移函数之间的互信息差距,并避免既有动态差距度量在域差异显著时出现的无界问题。其与摘要所述既有方法的主要区别,是用对比表征替代依赖域分类器的差距测量;具体损失、采样规则、筛选阈值及理论成立条件尚未验证。 作者报告,在多种任务上,仅使用 10% 的目标域数据,方法即可达到使用完整目标域数据的最先进方法性能的 89.2%。该比例并非 Accuracy;摘要未列明具体任务、性能指标、源域数据规模及基线配置,因此不能据此判断不同任务上的收益一致性。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 BCI 应用被明确建模为具有状态、动作、奖励和转移记录的离线强化学习问题,该筛选机制可能用于检验不同被试或会话的数据能否安全共享;它并不直接对应常规 EEG 分类的域适应。可复用部分是对比表征与样本筛选,需改造部分是神经信号状态表示及转移定义。低信噪比、通道差异和小样本可能使对比分数主要反映采集差异,而非策略可迁移性。一个可检验的小实验是在固定目标数据量下,对比仅用目标数据、直接混合源域数据与筛选后混合数据的策略回报,并保持目标测试记录隔离。已有 EEG 相关工作尚未检索确认。
值得核对其对比表征如何刻画转移动态差异并支持源域数据筛选,但摘要中的数据效率结果尚需结合任务、基线与评估协议验证,不能直接外推为 EEG/BCI 收益。
来源:OpenReview · Representation learning · openreview.net