基于注意力表示的集成聚类
Ensemble Clustering With Attentional Representation
基于摘要分析。本文研究集成聚类中仅依赖样本两两关联难以充分表达复杂簇关系的问题,提出 Ensemble Clustering with Attentional Representation(ECAR),利用注意力网络学习基础划分中的群组关联,并将其编码为低维表示。原研究对象是通用数据的集成聚类,而非 EEG 或 BCI。 机制上,ECAR 将基础划分结果视为包含关联信息的群组,以探索高阶融合信息;注意力网络刻画每个样本与相关群组之间关联的重要性。训练联合优化两类目标:由嵌入学习得到的软分配所产生的聚类损失,以及来自集成聚类生成的加权图的重建损失。基础划分的权重在训练期间自适应调整,旨在兼顾多样性与一致性,降低低质量及冗余划分的影响。相较只使用共关联矩阵中的两两关系,其方法重点是群组级信息融合与表示学习的联合优化;具体损失公式和图构建方式尚未验证。 作者报告,在真实世界数据集上的实验中,ECAR 相较既有集成聚类方法和深度聚类方法取得明显改进。摘要未提供数据集名称、划分协议、评价指标或具体数值,实验协议、消融及统计信息尚未验证,不能据此判断优势的幅度与稳定性。 平台推测(待验证):假设 EEG 表征能产生具有互补性的多组基础划分,群组关联建模与划分自适应加权可能用于无监督状态聚类,但依赖基础划分包含有效且互补的信息。可复用部分是群组注意力与联合优化框架;需改造的是 EEG 特征、相似图及基础划分的生成方式。低信噪比、跨被试差异和通道变化可能使划分主要反映伪迹或被试身份,小数据也可能导致表示学习不稳定。可在固定 EEG 特征与基础划分、按被试隔离评估的条件下,对比 ECAR 与共关联矩阵聚类,并加入去除自适应加权的对照,检验收益是否来自群组建模而非被试混杂。已有 EEG 相关工作尚未检索确认。
值得核对 ECAR 如何将基础划分的群组关系编码为低维表示,并通过自适应加权抑制低质量与冗余划分;作者报告的性能优势仍需结合全文实验协议验证。
来源:OpenReview · Representation learning · openreview.net