跳到正文
OpenReview · Representation learning·· 2026-09-18精选AI 评分81

哪些任务能在自监督学习后得以保留?

Which Tasks Survive Self-Supervised Learning?

AI 导读

基于摘要分析。本文研究同实例自监督学习(SSL)中的两视图一致性究竟保留哪些下游任务信息,提出“语义可恢复性”:任务后验得分被表征函数空间捕获的程度。核心贡献是将任务信息的保留程度,与表征几何、少样本迁移及两视图算子的谱结构联系起来。 理论上,在表征经过中心化和白化的条件下,作者报告语义可恢复性可精确决定方向性类间距离归一化方差(CDNV),约束少样本最近质心分类表现,并决定任务相关语义方向的强度;总体层面的线性探针与质心轴重合,多个被充分恢复的任务趋近于因子化质心几何。针对一个典型两视图 SSL 目标,作者进一步报告,其总体最优解张成对应两视图算子中跨视图稳定性最高的主导模态,因此任务能否被保留,取决于其后验在所选谱子空间中的投影。 作者报告在合成数据和真实数据上,使用多种 SSL 方法检验了可恢复性、方向几何、谱结构与少样本迁移之间的预测关系。摘要未给出具体数据集、方法名称、样本规模或数值结果;实验协议、消融及统计信息尚未验证。理论结论中的中心化、白化及总体最优条件,也需要在正文中核对其适用范围,不能直接等同于有限样本训练的保证。 平台推测(待验证):其机制可能对应 EEG 自监督预训练中“增强所保留的稳定因素是否恰为任务相关因素”这一瓶颈。可复用的是谱结构与任务可恢复性的分析框架,需改造的是 EEG 两视图构造及有限样本估计;低信噪比、通道差异和被试特征可能使稳定模态偏向伪迹或身份信息,小数据也可能造成估计不稳。一个小规模可证伪实验是在固定 EEG 数据划分、编码器和训练预算下,仅改变视图增强,检验估计的任务可恢复性是否与冻结表征的少样本最近质心表现同向变化;跨被试结果应单独报告。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的具体原因是,论文将同实例自监督学习保留哪些下游任务的问题转化为可分析的谱子空间与语义可恢复性关系,并给出可核对的少样本分类和表征几何预测,但其对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net