用于表征学习的对比吸引与对比排斥
Contrastive Attraction and Contrastive Repulsion for Representation Learning
基于摘要分析。本研究面向图像自监督表征学习,针对常见对比学习将同一实例的增强视图视为正样本、其他实例视图视为负样本,难以充分刻画样本关系的问题,提出 contrastive attraction and contrastive repulsion(CACR)。其核心是在正样本集合和负样本集合内部各自进行对比,使查询对较远正样本施加更强吸引、对较近负样本施加更强排斥。 机制上,常见对比学习通过一对多 softmax 交叉熵对比正负样本;CACR 则进一步考虑正、负样本集合内部的相对关系。作者称,理论分析表明该策略推广了对比学习中的正样本吸引与负样本排斥行为,并有助于缩小采样分布与真实分布的差距,尤其适用于整理程度较低的数据。摘要未提供具体损失公式、正负样本构造细节及理论成立条件。 作者报告,在标准视觉任务的大规模实验中,CACR 相比既有对比学习方法取得一致改善,并在非均衡图像数据集的泛化评估中表现出更好鲁棒性。摘要提及 ImageNet 作为既有方法的大规模预训练背景,不能据此确认 CACR 的具体实验数据集;评估划分、基线配置、数值结果、消融及统计信息尚未验证。 平台推测(待验证):该机制可能用于检验 EEG 自监督学习中正负样本内部差异是否值得显式建模,但依赖可靠的增强语义及具有代表性的样本集合。可复用的是吸引与排斥的相对作用机制,需要改造 EEG 增强、样本配对和批次采样;低信噪比可能使远正样本主要反映噪声,跨被试差异可能被误当作语义差异,通道不一致与小数据也可能使距离估计不稳定。一个可证伪的小实验是在固定编码器、增强、数据划分和训练预算下,对比基础对比学习与 CACR 的跨被试评估结果,并检查远正样本、近负样本的信号质量与类别关系。已有 EEG 相关工作尚未检索确认。
值得关注其在正样本集合与负样本集合内部进一步建模对比关系的机制,尤其是对远正样本和近负样本的差异化作用;作者报告的非均衡图像数据泛化收益及其 EEG 适用性仍需分别核验。
来源:OpenReview · Representation learning · openreview.net