跳到正文
OpenReview · Representation learning· Qihang Chen; Dayang Liang; Yunlong Liu·· 2022-12-31精选AI 评分70

强化学习中对比表征学习的难负样本挖掘

Hard Negative Sample Mining for Contrastive Representation in Reinforcement Learning

AI 导读

基于摘要分析。本文研究视觉强化学习中,对比学习的负样本随机采样未利用下游任务反馈、可能限制样本效率的问题,提出 Q value-based Hard Mining(QHM),将图像压缩表征与 Q value 引导结合,用于选择难负样本。 机制上,QHM 使用高斯随机投影将高维图像压缩至低维空间,并以 Q value 指导采样,目标是找到表征相近但语义不同的负样本对,使对比表征学习更贴近强化学习任务。这里的任务信息来自强化学习的奖励反馈及其价值估计,而非单纯依赖不同图像之间的实例区分。摘要未给出投影维度、难负样本判定公式、对比损失细节或 Q value 的具体使用方式,尚需核对正文。 作者报告,在 DeepMind Control Suite 的 7 个任务中,相较原始实例对比方法的随机采样方式,QHM 在其中 5 个任务上同时改善了样本效率与最终得分。摘要未提供任务名称、具体分数、交互预算、重复运行次数及不确定性,因此该结果只能按上述基准与对照范围理解;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将这一机制用于 EEG 对比表征学习,可检验的假设是,利用任务相关信息筛选难负样本,比仅按表征距离或随机方式采样更有效。但原方法依赖图像结构和 RL 的 Q value,不能直接等同于 EEG 分类方法;可复用的是任务引导的负样本采样思路,需改造信号表征与任务语义依据。低信噪比、跨被试及通道差异可能使距离反映伪迹或个体特征,小数据条件下的任务估计误差也可能造成假负样本。一个小规模检验是在固定 EEG 编码器、损失和跨被试划分下,仅比较随机采样与训练集任务信息引导的采样,并检查假负样本比例和分类表现。该假设并非论文已验证结论,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是 QHM 如何利用 Q value 引导难负样本选择,以及这种选择相较随机采样的收益是否稳定;摘要给出了 DeepMind Control Suite 上的任务级结果,但具体增益与统计可靠性尚未验证。

来源:OpenReview · Representation learning · openreview.net