通过特征保持微调在持续学习中保持表征

基于摘要分析。本文研究预训练基础模型在无法访问历史数据、任务依次到达的持续学习场景中，如何避免微调造成的表征退化。研究比较已有特征保持微调方法，并提出两阶段策略 PEFT+Cons，将参数高效微调（PEFT）与任务特定知识巩固结合，以平衡稳定性与可塑性。 方法与对照：作者使用一个大规模预训练基础模型，系统评估 L2-SP、FTP、WiseFT 和 ImpReg，并比较全量微调（FullFT）与 PEFT。摘要明确了 PEFT+Cons 的两阶段思路，但未说明所用基础模型、PEFT 的具体形式、知识巩固操作、损失函数及阶段衔接方式，这些细节尚未验证。 结果与证据边界：在 CIFAR-100 和 ImageNet-R 的持续学习基准实验中，作者报告 PEFT+Cons 能有效防止表征遗忘，同时增强任务特定知识的保留。摘要未提供数值指标、任务序列与数据划分，也未界定表征遗忘和知识保留的测量方式，因此目前不能量化收益或判断不同方法之间的差异。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可检验的迁移假设是，限制参数更新并巩固新任务知识，可能缓解 EEG 模型在跨会话顺序适应时对既有表征的破坏。原问题依赖大规模预训练模型和顺序任务数据；可借鉴两阶段适应框架，但需要按 EEG 输入结构、任务边界和标签可用性改造 PEFT 与巩固模块。低信噪比、通道变化、被试差异及小数据可能使模型保留不适用的旧特征，或使巩固过程固化噪声。取得实现细节后，可在固定通道、单被试多会话数据上按会话顺序适应，遵守不访问历史训练数据的约束，比较 FullFT、PEFT 与 PEFT+Cons 的新会话表现和旧会话性能变化。该迁移尚未验证，已有 EEG 相关工作尚未检索确认。