通过可信多视图空间分解学习互补知识的自监督对比学习
Learning Complementary Knowledge via Trusted Multi-view Space Decomposition for Self-Supervised Contrastive Learning
基于摘要分析。本文研究通用自监督对比学习中仅提取视图共享信息可能遗漏下游任务所需互补知识的问题,提出可信多视图解耦对比方法,在公共空间之外增加多个解耦空间,以保留更丰富的判别信息;研究对象并非专门的 EEG 或 BCI 任务。 核心机制是将表征映射到公共空间及多个解耦空间。每个解耦空间关联一个特定视图,并假设该视图不含该空间所需的视图特有判别信息,因此将其作为该空间对比学习的负例。考虑到这一假设并非总成立,方法利用基于 Dirichlet 分布的机制衡量各空间中假设成立的可信度。针对不同空间的对比学习相互影响优化的问题,作者进一步提出拓扑保持紧致性正则化,以学习局部紧致且抵抗干扰的表征;摘要未提供具体损失公式或可信度参与优化的方式。 作者报告,该方法在基准下游任务上优于所比较的先进方法,但摘要未给出数据集、视图构造、指标、数值及评估划分,无法判断优势幅度与适用边界。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 的不同通道组、频段或增强视图同时包含共享信息与任务相关的互补信息,这种多空间分解可能缓解仅对齐共享成分造成的信息损失。该假设依赖视图划分确有互补结构,而非主要引入噪声;可考虑复用空间分解、可信度估计和正则化思路,但需改造 EEG 编码器与视图构造。低信噪比、跨被试差异、通道缺失及小数据可能使解耦空间保留伪迹或被试身份信息。一个可证伪的小实验是在同一 EEG 数据集、固定跨被试划分和相同编码器下,对比仅共享空间与加入可信解耦空间的方法,并检查增益是否依赖特定视图划分。已有 EEG 相关工作尚未检索确认。
值得核对其如何利用 Dirichlet 分布评估解耦空间假设的可信度,并通过拓扑保持紧致性正则化缓解多空间优化干扰;其对 EEG 多视图表征的价值尚未验证。
来源:OpenReview · State space models · openreview.net