基于预训练模型的域增量学习中的双重巩固

基于摘要分析。本文研究基于预训练模型的 Domain-Incremental Learning（DIL，域增量学习）：模型依次适应不同域时，如何避免最新域的更新覆盖既有表征与分类器知识。作者提出 DUal ConsolidaTion（Duct），分别在表征和分类器层面整合历史知识，使模型兼容已见域。 核心机制包括两步：首先合并不同学习阶段的骨干模型，逐步构建适用于多个域的表征空间，以兼顾已见域的任务特征；随后处理巩固后的嵌入与分类器之间的失配。作者利用类别级语义信息，在最新嵌入空间中估计旧域分类器权重，再合并历史分类器与估计分类器，使其与巩固后的嵌入空间对齐。该方法的阅读重点是：保留历史骨干知识与重新对齐分类决策之间如何协同，而非仅独立处理其中一个环节。 作者报告在四个基准数据集上达到最先进性能，但摘要未提供数据集名称、域序列、划分方式、对照基线或具体指标，不能据此进行定量比较。骨干与分类器的合并规则、类别语义信息的来源、旧域数据访问条件，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 任务在跨被试或跨会话的顺序学习中保持一致的类别定义，Duct 的表征巩固与分类器对齐可能对应持续适应中的遗忘问题。可复用的是双层巩固思路；需改造的是 EEG 编码器、通道输入处理及类别语义表示。低信噪比、被试差异、通道不一致和小样本估计误差可能使模型合并损害表征，或使旧域分类器权重估计失准。一个可检验的小实验是在固定通道与类别的跨会话 EEG 顺序学习中，对比顺序微调、仅骨干巩固和双重巩固，并评估新旧会话性能；该建议不代表已有 EEG 效果，相关工作尚未检索确认。