跳到正文
OpenReview · Representation learning· Zhigang Dai; Bolun Cai; Yugeng Lin; Junying Chen·· 2021-01-01精选AI 评分72

UniMoCo:无监督、半监督与全监督视觉表征学习

UniMoCo: Unsupervised, Semi-Supervised and Full-Supervised Visual Representation Learning

AI 导读

基于摘要分析。该研究面向视觉表征学习,提出 Unified Momentum Contrast(UniMoCo),将 MoCo 扩展为可利用任意比例标注与未标注训练数据的统一框架,核心贡献是基于标签队列构造多个正样本对,并以 Unified Contrastive(UniCon)损失统一处理数量可变的正负样本。 机制上,相较于 MoCo 的单个正样本对,UniMoCo 通过比较 query 标签与标签队列,动态维护多个正样本对;UniCon 则从成对优化视角组织对比学习目标。摘要未给出损失公式,也未说明未标注样本如何参与正负样本判定、队列如何更新,以及混合标注比例下的具体训练流程,这些细节尚未验证。 作者报告,在采用不同比例 ImageNet 标签预训练多个 UniMoCo 模型、并在多种下游任务评估的设置下,该方法能适用于无监督、半监督和监督视觉表征学习。作者还主张 UniCon 在理论与实践上优于监督对比损失,但摘要未提供具体标签比例、下游任务、数值指标或对照配置;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移机制是利用有限类别标签,为对比学习增加同类正样本,可能对应 EEG 小样本标注利用不足的问题。可复用部分是标签队列和多正样本对比目标;需改造视觉编码器与数据增强,并处理 EEG 的被试、会话和通道差异。低信噪比、类别内部异质性及小数据条件可能使同类正样本关系不稳定,队列也可能保留被试特异特征。一个可证伪的小实验是在固定 EEG 数据划分和标注预算下,采用相同编码器与增强,比较 MoCo、监督对比学习和 UniMoCo 的跨被试解码表现,并检查标签比例变化是否带来稳定收益。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是标签队列与 UniCon 损失如何在同一框架中利用不同比例的标注数据,但其相对监督对比学习的优势及向 EEG 的适用性仍需进一步验证。

来源:OpenReview · Representation learning · openreview.net