跳到正文
OpenReview · Representation learning· Tim Lebailly; Thomas Stegmüller; Behzad Bozorgtabar; Jean-Philippe Thiran; Tinne Tuytelaars·· 2023-03-23精选AI 评分74

用于自蒸馏表征学习的自适应相似性自举

Adaptive Similarity Bootstrapping for Self-Distillation based Representation Learning

AI 导读

基于摘要分析。本文研究图像自监督表征学习中,如何将跨图像近邻正样本引入自蒸馏而不损害表示质量,提出根据潜在空间估计质量自适应选择自举近邻的方法。 多数相关方法通过提高同一图像不同增强视图的表征相似性进行训练;NNCLR 则在使用负样本的对比学习框架中,通过近邻自举构建来自不同图像的正样本对。作者报告,将这一策略直接用于自蒸馏时,可能导致性能下降,甚至表示坍塌。本文以潜在空间质量估计为依据调整近邻自举,但摘要未说明质量估计指标、选择或加权规则、损失形式及更新流程。 作者报告,该方法相较朴素近邻自举和原始基线,在多种自蒸馏方法与骨干网络组合以及标准下游任务上均有改进。摘要未提供具体数据集、评估协议、指标或数值,实验协议、消融及统计信息尚未验证。摘要提供了公开代码地址,但代码内容与复现条件尚未核验。 平台推测(待验证):其可能对应 EEG 自监督学习中跨片段正样本质量不稳定的问题。可考虑复用质量感知的近邻自举机制,但需重新设计 EEG 增强、候选邻居池和质量估计,避免把被试、会话或伪迹相似性当作任务语义相似性。低信噪比与小数据可能使早期近邻估计不可靠。一个可检验的小实验是在固定 EEG 数据划分、编码器与训练预算下,对比原始自蒸馏、朴素近邻自举及自适应近邻自举,同时检查下游表现和表示坍塌迹象。上述迁移尚非本文已验证贡献,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何依据潜在空间质量调节近邻自举,以及该机制能否缓解自蒸馏中的性能下降或表示坍塌;作者报告的改进限于图像表征学习,EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net