理解非线性自监督学习的表征可学习性

基于摘要分析。本文研究非线性自监督学习（SSL）究竟能学习数据中的哪些特征，尝试从训练收敛点而非仅从最终表征的黑箱描述解释表征可学习性。核心贡献是在简化数据分布下分析单层非线性 SSL 模型的梯度下降过程，并刻画其局部极小值所编码的特征。 理论设定包含标签相关特征与隐藏特征。作者在特定初始化区域内使用梯度下降训练模型，并证明其收敛至局部极小值；随后借助精确版本的逆函数定理，描述该极小值学到的特征。该路径区别于依赖闭式解的线性分析，也试图避免复杂的逐步迭代分析。摘要未给出具体 SSL 目标、非线性函数、初始化条件及定理边界，均需全文核对。 作者报告，在上述理论设定下，非线性 SSL 模型能够同时捕获标签相关特征与隐藏特征，而作为对照的非线性监督学习（SL）模型只能学习标签相关特征。作者还通过仿真实验展示两类模型的学习过程与结果；摘要未提供量化指标，实验协议、消融及统计信息尚未验证。这一结论针对特定模型与数据分布，不代表任意 SSL 都优于 SL，也不意味着隐藏特征必然有利于下游任务。 平台推测（待验证）：该理论可用于提出 EEG 自监督表征是否同时保留任务信息与非任务因素的可检验假设，但原文并非 EEG/BCI 研究。可复用的是受控特征生成与训练动力学分析思路，迁移时需将时序、通道结构及被试差异纳入数据模型；低信噪比、小样本及强被试特征可能使被保留的隐藏因素成为干扰。一个小规模检验是构造含独立任务特征和被试特征的多通道合成信号，在相同编码器与数据划分下比较 SSL、SL 表征对两类特征的可解码性，并观察噪声变化是否破坏结论。已有 EEG 相关工作尚未检索确认。