通过随机划分上的视图一致性分配进行表征学习
Representation Learning via Consistent Assignment of Views over Random Partitions
基于摘要分析。本文研究视觉特征的自监督表征学习,提出自监督聚类方法 Consistent Assignment of Views over Random Partitions(CARP):通过对原型进行随机划分构造预训练任务,约束不同视图的分配一致性,并端到端在线学习原型。 核心机制是用梯度下降联合学习表征与原型,无需额外的不可微模块求解聚类分配问题。随机划分产生多个随机分类任务,为表征学习提供正则化与视图一致性约束。作者报告,该机制改善了联合嵌入训练的稳定性,并防止表征坍塌。摘要未给出具体损失形式、视图构造方式、原型数量及随机划分策略,相关实现细节尚未验证。 评估方面,作者报告在 17 个数据集上采用线性评估、few-shot classification、k-NN、k-means、image retrieval 和 copy detection 等协议,并与 11 种已有自监督方法比较;作者还报告开展了消融,支持随机划分预训练任务对表征质量的贡献。在迁移学习任务中,作者报告 CARP 的平均表现优于多种训练时间更长的自监督方法。摘要未提供逐数据集结果、具体指标、训练预算或统计信息,不能据此量化优势或判断比较条件是否一致,实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的候选机制是“原型随机划分+视图分配一致性”,而非已验证的 EEG/BCI 方法。假设 EEG 片段的不同视图能够保留相同任务语义,该机制可能用于无标签 EEG 预训练,并服务于小标注量下的下游分类;需改造视觉编码器与视图增强,且预训练数据规模要求尚不明确。低信噪比、跨被试差异及通道变化可能使原型主要反映伪迹或个体特征,语义不保真的增强也可能产生错误一致性约束。可在固定跨被试划分、训练预算和编码器下,仅用训练被试数据预训练,比较加入与移除随机划分机制后的冻结表征分类表现,并检查表征坍塌情况。已有 EEG 相关工作尚未检索确认。
值得核对 CARP 如何通过原型随机划分约束多视图分配一致性,以及该机制对表征坍塌和迁移表现的贡献;摘要报告了多任务评估与消融,但具体协议尚未验证。
来源:OpenReview · Representation learning · openreview.net