理解与校正 EEG 基础模型中的低频偏置
Understanding and Correcting Low-Frequency Bias in EEG Foundation Model
研究针对扩大 EEG 预训练数据规模或模型容量未必持续改善下游表现的问题,分析 EEG 基础模型表征中的低频偏置,并提出频率均衡掩码自编码框架 FAME,以平衡不同 EEG 频带的训练监督。以下基于摘要分析,未取得论文全文。 作者报告,低频偏置在不同数据规模、模型容量和预训练目标下均持续存在。作者将其关联到 EEG 的 1/f^α 型频谱结构与神经网络优先学习低频成分倾向之间的相互作用。对于掩码自编码器,ℓ₂ 重建目标还会放大这种不均衡:当各频率成分的相对重建误差相近时,功率更高的低频成分对损失的贡献更大。摘要支持这一机制解释,但其因果验证与分析方法尚需核对全文。 FAME 从经过掩码处理的 EEG 输入重建预定义 EEG 频带中的时频活动,对每个频带的重建目标独立标准化,并对各频带损失赋予相同权重。其核心改动是均衡频谱范围内的监督,而不是单纯扩大预训练规模。具体频带边界、时频表示、掩码策略、模型结构与标准化实现尚未验证。 作者报告,在 OmniEEG-Bench 的 41 项下游任务评估中,FAME 学到了频谱更均衡的表征,并在其中 24 项任务上达到最先进性能。摘要未提供各任务指标、对照方法、数据划分,以及被试内、跨被试或跨会话等协议,因此不能据此判断具体提升幅度或跨协议泛化能力。实验协议、消融及统计信息尚未验证;阅读全文时应重点核对频带标准化与等权损失的独立贡献,以及不同频谱特征任务中的收益是否一致。
该研究将 EEG 基础模型的低频偏置与信号频谱、重建损失联系起来,并提出可核对的频带均衡监督机制,值得结合全文检验其对不同下游任务的收益及适用边界。
来源:arXiv · EEG 基础模型 · arxiv.org