CAESAR:通过自主嵌入空间凝聚式重组进行聚类
CAESAR: Clustering via Autonomous Embedding-Space Agglomerative Reorganization
基于摘要分析。该研究针对预训练视觉与语言模型的嵌入空间未必适合最近邻图聚类、现实无监督任务中簇数 K 通常未知的问题,提出 CAESAR:训练重组网络改善嵌入空间,并使整个聚类流程推断 K,而非要求用户预先提供。 核心机制是拉近互为最近邻的样本、推远非邻居,从而调整供聚类使用的空间几何结构。其出发点是 FINCH(First Integer Neighbor Clustering Hierarchy)等依赖最近邻图的方法受输入嵌入质量影响较大。摘要未给出重组网络结构、具体损失形式、邻居关系更新方式或簇数推断规则,这些实现细节尚未验证。 作者报告,在文本和图像数据集上,重组后的嵌入较原始嵌入持续改善聚类表现。比较包括在相同嵌入空间上运行、能够推断 K 的方法,以及获知真实 K 的强深度聚类方法;后一组对照具有真实簇数这一额外信息优势。作者报告,CAESAR 在文本任务上优于这些对照,在其所称最具挑战性的图像基准上取得最佳结果,在其他图像基准上保持竞争力。摘要未提供数据集名称、指标、数值、划分或统计检验,不能据此量化增益或判断跨基准可比性。关于部分同类深度聚类方法未公开代码的说法亦来自作者;CAESAR 自身的代码可用性尚未验证。 平台推测(待验证):这一机制可能用于 EEG 预训练嵌入的无监督分组,探索未知状态数量,但原文研究对象是文本与图像,并未验证 EEG 或 BCI。可复用的是嵌入重组与未知 K 聚类思路;需适配的是 EEG 表征、距离度量和邻居构建。低信噪比、通道差异及跨被试偏移可能使互为最近邻主要反映伪迹或被试身份,小数据下错误邻接还可能被重组过程强化。一个可证伪的小实验是固定 EEG 编码器与数据划分,在不向聚类流程提供真实 K 的条件下比较原始与重组嵌入,并仅用保留标签评估任务一致性、簇数稳定性及被试身份混杂。已有 EEG 相关工作尚未检索确认;实验协议、消融及统计信息尚未验证。
值得关注其利用互为最近邻关系重组预训练嵌入、且无需预先指定簇数的聚类机制;作者报告了文本与图像任务收益,但具体评估协议及其对 EEG 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net