方向性神经坍缩解释自监督学习中的少样本迁移

基于摘要分析。本文研究冻结自监督表征为何能以少量标签迁移到多种语义任务，提出以 directional CDNV（决策轴方差）统一解释任务内的少样本泛化与多任务间的低干扰。核心观点是：关键并非所有方向上的类内变异都小，而是沿类别分离方向的变异较小。 理论上，作者给出下游多分类的非渐近泛化界，其主导项为 directional CDNV，并通过有限样本修正区分决策轴上的内在变异与类别质心估计误差。对于相互独立且均衡的多任务标签划分，作者进一步建立几何联系：各任务的 directional CDNV 较小时，相应决策轴趋于正交，从而有助于同一表征支持多个任务。该结论有明确的标签条件，不能直接推广到标签相关或类别不均衡的任务。 实证方面，作者报告，在所考察的不同自监督目标下，directional CDNV 在预训练期间发生坍缩，即使经典 CDNV 仍较大；作者报告，所推导的界能在实际少样本设置下较好地跟踪分类误差，并在合成多任务数据上观察到近似正交的决策轴。摘要未列出具体目标、数据集、样本数或误差数值，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该几何量可作为冻结 EEG 自监督表征的小样本可分性诊断，假设其决策轴方差能反映与分类相关的噪声，而非被试或会话差异。可复用的是表征几何测量与质心估计分析，需适配 EEG 的任务定义、通道配置和跨被试划分；低信噪比与少标签可能使决策轴估计不稳定，相关或不均衡任务也可能不满足多任务理论条件。一个可证伪的小实验是在固定 Cross-subject 划分和标签预算下，比较 directional CDNV 与经典 CDNV 对冻结表征分类误差的预测关系，并检验重复抽样稳定性。已有 EEG 相关工作尚未检索确认。