在零空间中学习：利用小奇异值进行持续学习

基于摘要分析。本文研究持续学习（CL）中如何缓解灾难性遗忘并保持新任务学习能力，提出 NESS（Null-space Estimated from Small Singular values）：利用各层输入表征的小奇异值所对应的方向估计历史任务输入的近似零空间，并将任务特定的低秩权重更新约束在该子空间内。 其核心依据是，小奇异值对应的方向与既往任务输入空间近似正交。不同于通过梯度投影实现正交约束的方法，NESS 直接在权重空间施加约束，采用 LoRA-style 参数化，固定子空间基，仅为每个任务学习一个可训练矩阵，从而使更新近似保持在历史输入的零空间中，同时适应新任务。具体奇异值选择规则、子空间维度、历史表征的保存或更新方式及其计算开销尚未验证。 作者报告，理论分析及三个基准数据集上的实验表明，该方法具有有竞争力的性能、较低遗忘和跨任务稳定的准确率。摘要未给出数据集名称、任务序列、划分方式、对照方法或具体指标数值，实验协议、消融及统计信息尚未验证。摘要提供了代码链接，但实现与运行条件尚未核验。 平台推测（待验证）：若 EEG 持续学习中的不同会话或被试数据可构成顺序任务，且模型中存在可稳定估计的历史输入低响应方向，可考虑复用 NESS 的固定子空间基与低秩更新机制；需适配 EEG 表征及跨会话或跨被试任务协议。低信噪比、小样本和通道变化可能使小奇异值方向反映噪声或采样不足，而非可安全更新的方向。一个可证伪的小实验是在固定通道、同一被试的跨会话顺序学习中，对比 NESS、无零空间约束的同等参数量低秩更新和顺序微调，分别检查历史会话保持能力与新会话学习效果。原领域结果不等于 EEG/BCI 有效性，已有 EEG 相关工作尚未检索确认。