超越成对相关性：自监督表征学习中的高阶冗余

基于摘要分析。本文研究通用自监督表征学习中的嵌入空间冗余，指出仅考察特征间成对相关性不足以刻画更复杂的依赖关系，并提出 Self Supervised Learning with Predictability Minimization（SSLPM），以可预测性最小化减少表征冗余。 作者对嵌入空间冗余进行形式化定义，提出捕捉高阶依赖的冗余度量，分析这些度量之间的数学关系，并在常见自监督方法的嵌入空间中进行经验测量。SSLPM 将编码器与预测器置于竞争过程：编码器试图减少依赖，预测器则试图利用依赖。摘要未给出具体预测目标、损失形式或交替优化方式，尚不能确定其实现细节。 作者报告，SSLPM 在所用评估中可与当前先进方法竞争，但摘要未提供任务、数据集、划分、基线及指标，无法据此量化优势。作者还报告，表现最好的自监督方法具有较低的嵌入空间冗余，并据此提出：即便没有显式冗余削减机制，一些方法也可能在隐式减少冗余。这一观察不应被扩大为冗余越低则所有下游任务表现越好的因果结论。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 自监督表征存在成对去相关无法识别的特征依赖，可尝试复用其高阶冗余度量与预测器竞争机制；需改造 EEG 编码器、视图构造及预测目标。该路径依赖可学习的嵌入结构和足够稳定的自监督训练数据，所需规模尚未明确。低信噪比、小数据及跨被试或通道差异可能使预测器不稳定，也可能误将任务相关的共享信息作为冗余消除。一个可证伪的小实验是在固定 EEG 数据划分、编码器和增强条件下，对比成对去相关与 SSLPM，并同时检查高阶冗余和下游任务指标，检验冗余降低是否带来收益。已有 EEG 相关工作尚未检索确认。