PLReMix:通过伪标签放宽的对比表征学习应对噪声标签
PLReMix: Combating Noisy Labels with Pseudo-Label Relaxed Contrastive Representation Learning
基于摘要分析。本文研究噪声标签学习(LNL)中,对比表征学习(CRL)从预训练转为端到端联合优化后出现的性能退化问题,提出 PLReMix 框架,以 Pseudo-Label Relaxed(PLR)对比损失缓解联合训练中的损失冲突。研究对象是通用噪声标签学习,而非 EEG 或 BCI。 核心机制:作者报告,直接将 CRL 损失与 LNL 方法结合会产生明显性能退化,并通过实验将其归因于损失间的优化冲突。PLR 损失为每个样本过滤不合适的负样本对,构造更可靠的负样本集合;框架还采用二维 Gaussian Mixture Model,同时利用语义信息与模型输出区分干净样本和噪声样本。摘要未给出伪标签生成、负样本筛选规则、混合模型输入的具体定义及联合优化细节。 证据与复现:作者报告,在多个基准数据集上验证了方法有效性,并将可插拔的 PLR 损失集成到其他 LNL 方法中观察到性能提升。摘要未列出数据集名称、噪声类型与比例、评估指标、具体分数或对照协议,实验协议、消融及统计信息尚未验证。材料提供了代码地址,但实现与论文设置的一致性尚未核对。 平台推测(待验证):若 EEG 分类数据存在任务标签噪声,且伪标签仍具有一定可靠性,筛除不合适负样本对可能减少语义相近样本被错误推离的问题。可尝试复用 PLR 损失与样本区分机制,但需适配 EEG 编码器、信号增强与伪标签校准;低信噪比、跨被试或通道差异可能使伪标签与混合模型分组失真,小数据条件也可能削弱负样本集合的可靠性。一个可证伪的小实验是在固定 EEG 被试内划分和相同编码器下,仅对训练标签注入已知比例的噪声,对照原 LNL 方法、直接加入 CRL 损失及加入 PLR 损失,比较 Accuracy 与负样本筛选误差。已有 EEG 相关工作尚未检索确认。
值得核对其通过筛除不合适负样本对缓解对比学习与噪声标签学习损失冲突的机制,以及该损失在其他 LNL 方法中的可插拔性;其对 EEG 标签噪声的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net