跳到正文
OpenReview · Representation learning· Hang Yang; Xunbo Li; Witold Pedrycz·· 2023-01-01精选AI 评分72

利用对比表征从众包标注中学习

Learning From Crowds With Contrastive Representation

AI 导读

基于摘要分析。研究针对众包学习中的标注噪声问题,提出 CrowdCons:在联合学习标注纠正机制与目标分类器的框架中,引入耐噪对比表征学习,关注以往主要从标注者及标注过程建模角度改进时较少处理的样本表征问题。 核心机制是先利用预训练表征与人工标注筛选高置信样本及正样本对,再扩展监督式对比损失,使其支持标签之间的连续一致性,以提升对噪声标注的容忍度;随后利用学到的表征训练分类器和标注者参数。作者将这一过程设计为端到端框架,并称其兼容已有众包学习模型。预训练表征来源、置信度计算、连续一致性的定义及损失具体形式尚未验证。 作者报告,在 LabelMe、CIFAR10-H 和 Music 三个真实众包数据集上,该方法能够显著提升预测 Accuracy,案例分析也显示其对噪声标注的鲁棒性。摘要未提供具体数值、数据划分、对照模型或统计检验细节,实验协议、消融及统计信息尚未验证,因此不能据此判断收益大小或各模块的独立贡献。 平台推测(待验证):若 EEG 任务具有同一样本的多名标注者标签,该机制可能对应专家判断不一致带来的监督噪声;可复用的是基于标注一致性的正样本构造与耐噪对比学习,需改造 EEG 编码器并核对正样本定义。它不能直接等同于对 EEG 信号噪声或跨被试偏移的处理;低信噪比、小数据及通道差异可能使预训练表征的置信筛选失准,进一步强化错误配对。可检验的小实验是在具有重复标注的 EEG 数据上,固定编码器、划分和众包基线,对比加入该表征机制前后的效果,并分别考察标注一致程度与被试内、跨被试条件。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 CrowdCons 如何将众包标注的一致性信息用于耐噪对比学习,以及表征改进能否独立于标注者建模带来收益;摘要尚不足以确认其对 EEG 标注噪声的适用性。

来源:OpenReview · Representation learning · openreview.net