通过 EMA 引导的相似度加权对比学习在粗粒度监督下保留细粒度结构

基于摘要分析。本文研究预训练视觉模型在粗粒度标签微调过程中丢失潜在细粒度结构的问题，提出 TaxoCon：利用 EMA 教师估计同一粗类别内的样本相似度，重新分配监督对比学习中的正样本对吸引强度，以减少对类内异质结构的压缩。 标准 SupCon 对共享标签的样本施加统一的吸引作用；TaxoCon 使用停止梯度的指数移动平均（EMA）教师，使相似正样本获得更强的学习压力，不相似正样本受到较弱吸引。摘要说明，该方法不需要细粒度标签、辅助自监督目标或外部记忆库。具体相似度计算、权重归一化、损失形式及 EMA 更新设置尚未验证。 作者在 iNaturalist 2021 和 FGVC-Aircraft 上，仅使用粗粒度标签进行表征微调与模型选择，将细粒度标签保留用于事后评估。作者报告，在 ResNet-50、ViT-S/16 和 Swin-T 预训练骨干上，相较所评估的基线，TaxoCon 在邻域检索、线性探测及层级敏感指标上均更好地保留了细粒度结构。摘要未提供具体分数、数据划分或完整基线清单；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若预训练 EEG 表征已包含粗任务标签之外的稳定差异，这种类内加权机制可能缓解微调对相关结构的过度压缩。可复用部分是 EMA 教师与正样本加权机制，需改造信号编码器、相似度度量和采样方式。关键风险是低信噪比、通道差异与被试身份主导相似度，导致方法保留伪迹或个体差异，而非任务相关结构；小数据下教师估计也可能不稳定。可检验的假设是：在固定 EEG 预训练模型和相同被试隔离划分下，以粗任务标签微调，对照 SupCon 与 TaxoCon，并仅在事后用预留细粒度标签评估表征保留程度，同时检查被试身份可预测性是否上升。已有相关 EEG 工作尚未检索确认。