用于跨域离线强化学习数据筛选的对比表征
Contrastive Representation for Data Filtering in Cross-Domain Offline Reinforcement Learning
基于摘要分析。本文研究跨域离线强化学习中,如何利用具有不同转移动力学的源域数据,降低目标域的数据需求。作者提出通过对比学习获得用于衡量域间差异的表征,并依据对比分数筛选可共享的源域转移样本,避免直接合并两域数据所带来的性能下降。 核心机制是从不同域采样转移样本构造对比目标,再利用学得的表征及评分函数进行数据筛选。作者称,该目标能够恢复两域转移函数的互信息差距,并避免动力学差异显著时,动力学差距度量出现无界的问题。相较于利用域分类器估计动力学差距的方法,本文将差异估计与样本选择建立在对比表征上;其理论结论的具体定义、成立条件和证明尚未验证。 作者报告,在所评估的多种任务中,仅使用10%的目标域数据并结合源域数据,即达到采用100%目标域数据的最先进方法性能的89.2%。这一比例不是Accuracy,也不能解读为提升89.2%;具体任务、源域数据规模、基线名称、性能汇总及归一化方式未在摘要中明确,实验协议、消融及统计信息尚未验证。 平台推测(待验证):该机制可能适用于具有状态—动作—后继状态及奖励记录的离线BCI控制策略学习,用于筛选动力学不同的历史交互数据,而非直接用于一般EEG分类。可复用部分是跨域对比评分与数据筛选,需改造状态表征并核对动作、奖励和控制目标的一致性。低信噪比EEG、跨被试或通道变化可能使评分反映观测差异而非控制动力学,小数据也可能导致评分不稳定。一个可检验的小实验是在固定目标域数据预算及同一离线强化学习算法下,对比仅目标域、直接合并、随机筛选与对比筛选的策略回报。该迁移假设尚无本文摘要中的BCI证据支持,已有EEG相关工作尚未检索确认。
值得关注其以对比表征衡量动力学差异并筛选源域转移样本的机制,但摘要中的数据效率结果仍需结合任务、对照算法及性能归一化方式核验。
来源:OpenReview · Representation learning · openreview.net