跳到正文
OpenReview · Representation learning· Jayanth Reddy Regatti; Aniket Anand Deshmukh; Eren Manavoglu; Ürün Dogan·· 2021-12-31AI 评分69

结合无监督表征学习的共识聚类

Consensus Clustering With Unsupervised Representation Learning

AI 导读

基于摘要分析。本文研究图像无监督表征学习中的一个问题:适合线性分类评估的 BYOL 特征,是否也适合聚类。作者提出基于共识聚类的损失函数,并将其用于 BYOL 的端到端训练,以改善所学表征的聚类能力。 技术机制:摘要将相关方法的共同思路概括为,使同一图像经数据增强产生的不同视图在表征空间中接近,或获得相似的聚类分配。本文据此考察 BYOL 的聚类表现,并引入共识聚类目标。摘要未给出共识的构造方式、损失公式、聚类分配的生成与更新过程,以及该损失与 BYOL 原训练目标的组合方式,以上细节尚未验证。 结果与证据边界:作者报告,BYOL 学到的特征可能并非聚类的最优选择;加入所提损失后,聚类能力有所改善,并在部分常用计算机视觉数据集上优于同类聚类方法。摘要未列出数据集名称、指标、数值、具体对照方法或数据划分,不能据此判断优势幅度与适用范围。实验协议、消融及统计信息尚未验证。摘要提到的 ImageNet 线性评估成绩是 BYOL 的背景信息,不是本文聚类方法的评估结果。 平台推测(待验证):迁移假设是,若 EEG 的不同增强视图保留同一任务相关信息,共识聚类目标可能帮助缓解自监督表征与下游分组需求不一致的问题。可考虑复用 BYOL 训练框架与共识目标,但需改造 EEG 编码器及增强策略,并核对聚类是否主要反映被试、会话或伪迹,而非任务状态。低信噪比、通道差异及小数据条件可能使错误聚类在训练中被强化。一个可检验的小实验是,在相同 EEG 数据划分、编码器和增强条件下,对比原始 BYOL 与加入共识损失的版本,分别评估被试内与跨被试的聚类表现及稳定性;这只是迁移验证建议,并非本文已有结果。相关 EEG 工作尚未检索确认。

来源:OpenReview · Representation learning · openreview.net