自监督学习中的信息流

基于摘要分析。本文研究自监督学习（SSL）中的信息流，利用矩阵信息论中的矩阵互信息与联合熵，为对比学习和非对比学习提供统一分析框架；同时提出 matrix variational masked auto-encoder（M-MAE），用于改进图像掩码建模。 技术上，论文的主要贡献包括分析工具与方法设计两个层面：前者尝试以共同的信息论视角理解不同 SSL 方法，后者将该视角用于掩码图像建模。摘要未给出矩阵的构造方式、信息量估计公式、变分目标或其与重建目标的关系，因此尚不能判断 M-MAE 相对既有 masked auto-encoder 的具体改动及计算代价。 作者报告，在 ImageNet 上，M-MAE 在 ViT-Base 的线性探测评估中提升 3.9%，在 ViT-Large 的微调评估中提升 1%。摘要将比较对象概括为当时的先进方法，但未明确具体基线、指标名称、绝对分数及提升的计算口径；上述百分比不宜自行解释为百分点，也不能跨评估协议直接比较。训练数据使用方式、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可探索将矩阵信息论分析工具用于 EEG 自监督表征，检验掩码学习过程中保留的信息是否有助于下游任务；这只是迁移假设，不是论文已验证的 BCI 结果。原研究面向图像，迁移时需重新确定 EEG 的时间与通道表示、掩码策略及矩阵估计方式。低信噪比、通道差异和小样本可能使信息估计主要反映噪声或被试特征。一个可证伪的小实验是在相同 EEG 数据划分、骨干与训练预算下，对照普通掩码建模和经全文核实后实现的 M-MAE 改造版，比较固定 Cross-subject 协议下的下游表现及重复运行稳定性。已有 EEG 相关工作尚未检索确认。