通过随机分区上的视图一致分配进行表征学习
Representation Learning via Consistent Assignment of Views over Random Partitions
基于摘要分析。本文研究视觉特征的自监督聚类表征学习,提出 Consistent Assignment of Views over Random Partitions(CARP),通过原型随机分区构造预文本任务,并约束不同视图的分配保持一致,以学习适用于下游任务的表示。 核心机制是利用梯度下降,以端到端、在线方式学习原型,无需额外的不可微模块求解聚类分配问题。随机分区将原型组织为多个随机分类任务,用于正则化模型并建立视图间的一致性约束。作者报告,该机制能够改善联合嵌入训练的稳定性并防止表示坍塌。具体损失形式、分区生成规则、视图构造方式与原型更新细节尚未验证。 评估方面,作者报告在 17 个数据集上采用线性评估、少样本分类、k-NN、k-means、图像检索和副本检测等协议,并与 11 种已有自监督方法比较。作者报告,消融结果支持随机分区预文本任务能够改善表征质量;在迁移学习任务中,CARP 的平均表现优于多种训练时间更长的自监督方法。摘要未提供具体数据集名称、分数、划分、训练预算及统计信息,因此不能据此判断优势幅度或比较条件是否充分一致,相关实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,原型随机分区与视图分配一致性可能有助于 EEG 自监督表征学习,但原论文研究对象是视觉数据,并未验证 EEG 或 BCI 效果。迁移依赖可构造保持任务语义的 EEG 多视图,以及足够稳定的原型结构;可复用分区与一致性机制,但需改造信号编码器和增强方式。低信噪比、跨被试与通道差异可能使原型主要反映个体或设备特征,小数据也可能导致分配不稳定。一个可检验的小实验是在固定编码器、增强和训练预算下,对比有无随机分区的自监督训练,并在被试隔离的 Cross-subject 划分下比较线性评估结果及表示坍塌指标。已有 EEG 相关工作尚未检索确认。
值得核对 CARP 如何通过原型随机分区与视图分配一致性,在端到端可微训练中缓解表示坍塌;其迁移优势仍需结合训练预算、评估协议与消融细节验证。
来源:OpenReview · Representation learning · openreview.net