跳到正文
OpenReview · Representation learning· Xiangxiang Chu; Xiaohang Zhan; Xiaolin Wei·· 2020-01-01精选AI 评分72

超越单实例多视图的无监督表征学习

Beyond Single Instance Multi-view Unsupervised Representation Learning

AI 导读

基于摘要分析。本文研究图像无监督表征学习中正样本通常局限于同一图像增强视图的问题,提出 Beyond Single Instance Multi-view(BSIM),通过两个随机采样实例及其混合样本之间的联合相似性学习,扩展传统 Single Instance Multi-view(SIM)范式。 机制上,作者将上述关系称为 spurious-positive pairs,旨在提高实例判别能力,并认为联合相似性学习在编码特征更均匀地分布于潜在空间时有助于提升性能。BSIM 被作为可叠加的改进应用于 SimCLR、MoCo 和 BYOL。摘要未给出混合样本的生成方式、联合相似性的数学定义、损失形式及其与各基线训练目标的结合细节,这些内容尚待正文核对。 作者报告,在 ImageNet-1k 和 PASCAL VOC 2007 的线性分类,以及 MS COCO 2017 和 VOC 的目标检测等下游评估中,几乎所有任务均取得较大提升。摘要未提供具体指标、数值、数据划分与训练配置,因此不能量化增益或判断各方法之间的公平可比性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可供 EEG 研究检验的机制是借助实例混合约束表征空间,而非已验证的 BCI 方法。迁移假设依赖 EEG 片段间混合仍保留可解释的信号关系;相较图像,需要改造混合策略、时序增强和相似性目标。低信噪比、通道差异及跨被试分布偏移可能使混合样本偏离真实生理分布,小数据下也可能强化噪声或被试特征。一个可证伪的小实验是在固定的跨被试划分下,以相同编码器、增强和训练预算比较基础对比学习与加入混合约束的版本,并用固定标注预算进行下游评估;若收益不能跨被试稳定出现,则不支持该迁移假设。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 BSIM 如何定义随机实例及其混合样本的联合相似性,以及这一机制对 SimCLR、MoCo 和 BYOL 的增益能否在统一训练与评估协议下复现;其 EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net