面向持续学习的零空间视觉提示调优

基于摘要分析。本文研究视觉持续学习中的灾难性遗忘，提出将提示参数的更新方向约束到既往任务特征所张成子空间的正交方向，以减少新任务学习对已学知识的干扰；主要研究对象是 ViT 中的视觉提示调优，而非 EEG 或 BCI。 机制上，研究不只选择和更新与任务相关的提示，而是约束提示梯度的更新方向。摘要指出，将传统 CNN 中的正交投影迁移到 ViT 存在两项挑战：自注意力的高阶非线性运算，以及 Transformer 块内 LayerNorm 引起的提示分布漂移。作者报告推导了实现提示梯度正交投影的两个一致性条件，并提出基于零空间的近似求解方案。具体条件、理论保证的适用假设，以及近似计算如何影响知识保持，尚需核对全文。 作者报告，在四个类增量学习基准及多种预训练基线模型上，该方法展示了抗遗忘效果，且表现优于所比较的现有先进方法。摘要未给出基准名称、任务划分、指标数值或具体对照，不能据此量化优势；实验协议、消融及统计信息尚未验证。摘要提供了代码仓库，但实现与复现实验条件尚未核验。 平台推测（待验证）：若 EEG 持续学习采用预训练 Transformer 与可训练提示，该方法的梯度约束可能用于缓解顺序学习新被试或新会话时的遗忘。可考虑复用零空间估计和梯度投影机制，但需将视觉特征子空间改造为 EEG 表征子空间，并确认一致性条件仍成立。低信噪比、小样本及通道变化可能使子空间估计不稳定，也可能因约束过强阻碍新任务学习。一个可检验的小实验是：在固定 EEG 编码器、相同提示规模与跨会话顺序划分下，对比普通提示调优与零空间约束调优，同时记录新会话性能和旧会话性能变化。此设想不代表已证实的 EEG 效果，相关 EEG 工作尚未检索确认。