解耦动态丰富性与表征学习：迈向实用测量

基于摘要分析。本文研究神经网络训练中的动态特征变换（rich regime）与预测性能为何不能相互替代，并提出一种计算高效、独立于预测性能的动态丰富性指标，以便单独分析训练动态与表征学习的关系。 核心机制是利用 rich dynamics 的低秩偏置构建度量；摘要称，该框架将 neural collapse 纳入为特例。作者还提出基于特征分解的可视化，用于解释训练因素、动态与表征之间的联系。这里的“丰富性”指训练中动态特征变换的性质，不等同于更高的 Accuracy 或更好的下游表征。 作者报告，该指标在所考察实验中比既有替代指标更稳定，并可在不依赖准确率的情况下捕捉已知的 lazy-to-rich 转变，例如 grokking。作者进一步用它分析学习率等训练因素与丰富性的关系，并报告 batch normalization 促进 rich dynamics 的观察。摘要未提供具体指标公式、计算复杂度、模型、数据集、比较对象或稳定性的量化结果；实验协议、消融及统计信息尚未验证，因此暂不能判断这些结论的适用范围。 平台推测（待验证）：假设该指标可用于 EEG 表征模型，它可能帮助区分“特征发生显著变化”与“解码性能改善”，但原研究并未在所给材料中报告 BCI 验证。可复用部分是低秩诊断与特征分解可视化，需先确认其对特征矩阵、样本规模及监督信号的要求，并适配 EEG 的时序与通道结构。低信噪比、小样本及跨被试分布差异可能使低秩现象反映噪声或被试特征，而非有效表征。一个可检验的小实验是在固定 EEG 数据划分及模型下改变学习率，同时记录丰富性指标与独立测试集解码性能，检查二者是否出现可重复的分离；相关已有 EEG 工作尚未检索确认。