先辨别,再组合:面向 EEG 基础模型的探针引导多数据集微调
Discern, Then Combine: Probe-Guided Multi-Dataset Fine-Tuning for EEG Foundation Models
基于摘要分析。本文研究 EEG 基础模型微调时如何选择和利用辅助数据集,以改善仅在目标数据集上微调的效果,同时降低无差别混合数据引起的负迁移。作者提出 POSE,一种以目标数据集为条件、以数据选择为核心的多数据集微调框架。 核心机制是将早期仅使用目标数据的适配过程作为动态探针,结合端点差异与时间趋势,为辅助数据集进行选择和赋权;随后通过分阶段训练安排调节辅助数据的参与,在联合学习与面向目标的精细适配之间取得平衡。摘要未说明探针具体测量哪些量、端点差异如何定义、时间趋势如何汇总,以及权重和训练阶段的实现方式,这些细节尚未验证。 相较于单目标微调和无差别数据混合,本文的主要思路是根据目标数据与基础模型的实际适配行为判断兼容性,而不是仅凭任务标签或元数据选择辅助数据。作者认为 EEG 数据集间的兼容性具有反直觉性,并报告选择分析与案例研究可为特定目标及骨干模型的辅助数据使用提供经验依据;这些经验的适用范围仍需结合正文核对。 作者报告,在摘要所述的异质设置实验中,POSE 的平均表现高于所有受评估基线,并在多数目标上优于仅使用目标数据的微调,同时表现稳定、稳健。摘要未提供数据集名称、被试数量、基础模型、任务、指标、具体数值或被试内/跨被试等划分信息,因此无法判断收益幅度或不同设置间的可比性。 复现时需核对动态探针使用的数据划分、辅助数据选择及赋权规则、阶段切换条件、基线训练预算,以及选择过程的额外计算成本。实验协议、消融及统计信息尚未验证,代码与模型权重的可用性也尚未验证。
值得阅读的具体原因是 POSE 用目标数据集上的早期适配过程判断辅助数据兼容性,并将数据选择与分阶段微调结合;其相对单目标微调的收益由作者报告,具体评估协议及复现条件尚未验证。
来源:OpenReview · EEG · openreview.net