作为互信息最大化的自监督表征学习

基于摘要分析。本文研究通用自监督表征学习（SSRL）的目标函数如何约束优化策略与架构选择，核心贡献是从变分互信息下界推导 Self-Distillation MI（SDMI）与 Joint MI（JMI）两类训练范式，尝试统一解释现有方法中的若干设计，而非提出专门的 EEG 或 BCI 方法。此处 MI 指互信息，不是运动想象。 作者提出，SDMI 在该理论框架下需要交替优化，因此 stop-gradient 具有理论上的必要性；JMI 则允许采用对称架构进行联合优化，无需上述组件。SDMI 中的 predictor network 与 JMI 中的统计正则项，被解释为互信息目标的可处理替代。作者进一步指出，多种既有 SSRL 方法可以视为这两类范式的特例或近似。其主要价值在于建立目标函数、优化方式与架构组件之间的联系，而不是仅以防止表征坍塌的经验规则解释设计。 摘要未给出变分分布、下界的具体形式、推导成立条件及所覆盖算法的清单，也未提供数据集、评估协议或量化结果；这些内容及实验协议、消融和统计信息尚未验证，不能据此判断该框架是否带来性能提升。 平台推测（待验证）：若用于 EEG 自监督预训练，可借此审视多视图目标与 stop-gradient、predictor 或统计正则项是否匹配；但其有效性依赖视图构造能否保留任务相关信息。EEG 的低信噪比、跨被试差异、通道变化与小样本可能使互信息目标偏向共享噪声或个体特征。可检验的假设是：在固定编码器、数据划分及增强方式下，对照与两类范式匹配和不匹配的优化配置，比较表征坍塌情况及同一跨被试协议下的下游表现。该迁移设想并非论文已验证结论，相关 EEG 工作尚未检索确认。