SpecBraM:EEG 基础模型应预测什么?掩码频带功率预测与波形重建的比较
SpecBraM: What Should an EEG Foundation Model Predict? Masked Band-Power Prediction versus Waveform Reconstruction
基于摘要分析。研究探讨 EEG 自监督预训练应预测何种物理量,提出 masked band-power prediction(MBP,掩码频带功率预测),并与波形重建比较。其核心贡献是通过匹配条件的实验检验预训练目标对睡眠分期表征的影响,同时考察收益能否迁移到其他任务。 MBP 为被掩码的通道—时间片段预测固定窄频带的对数谱能量,旨在保留与睡眠分期相关的节律功率,避免相位敏感的波形重建及学习式码本。作者使用三个预训练随机种子,在相同骨干、2,388 小时预训练数据和相同训练步数下比较频带功率与波形目标,并采用 2×2 tokenizer-by-target 设计区分 tokenizer 与预测目标的影响;摘要未提供具体骨干、损失形式或频带配置。 作者报告,在 ISRUC 和 HMC 睡眠分期的严格线性探测协议下,使用全部标签时,MBP 相较原始波形及频带波形重建提高 1.6–2.8 个 Balanced Accuracy 百分点;使用 1% 标签时提高 4.7–7.3 个百分点,且目标的影响大于 tokenizer 的影响。按 ISRUC/HMC 顺序,冻结特征的 Balanced Accuracy 为 0.7916/0.7425,匹配的丰富手工频谱特征基线为 0.7636/0.7227;但在 1% 标签条件下,与该基线的差距约为一个百分点。作者报告,全量微调的 Balanced Accuracy 为 0.8107/0.7669。被试与会话划分、标签抽样方式、各对照的具体实现及统计不确定性尚未验证,不能据此直接比较其他研究的分数。 作者报告,这些收益未普遍扩展到运动想象、抑郁筛查和警觉性回归等具有频谱线索的任务,支持根据下游标签相关的物理量及空间、时间尺度选择预训练目标,而非将 MBP 视为普适替代方案。复现需核对预训练数据组成、掩码策略、频带定义、线性探测约束和 1% 标签采样协议;完整实验协议、消融及统计信息尚未验证。
匹配骨干、预训练数据与训练步数的目标对照及 tokenizer-by-target 设计,有助于核对睡眠分期收益是否主要来自预训练目标,同时其未普遍迁移的结果值得用于审视 EEG 基础模型的任务适用边界。
来源:arXiv · EEG 与神经表征 · arxiv.org