以不变性导向预训练驾驭基础模型:面向信号级、脑状态与脑健康任务的广谱 EEG 分析
Taming foundation model with invariance-oriented pre-training for broad-spectrum EEG analysis across signal-level, brain-state, and brain-health tasks
基于摘要分析。该研究针对 EEG 模型依赖单数据集监督训练,以及重建导向预训练未必能提取可迁移神经信息的问题,提出不变性导向的 EEG 基础模型 INCEPT,旨在获得可复用于信号级评估、脑状态解码和脑健康评价的表征。 作者使用超过 11,000 小时的无标签临床 EEG 进行预训练。其核心思路不是仅恢复信号,而是学习相关 EEG 观测之间的表征稳定性,将稳定神经结构及必要的被试敏感信息与头皮记录中的干扰变异区分,同时保留对被试、状态和条件的判别信息。摘要未说明相关观测的构造方式、不变性约束的具体损失或网络结构,因此尚不能判断其如何避免在抑制干扰时丢失任务所需差异。 作者在覆盖上述三个分析层级的十个数据集上评估 INCEPT,报告其在线性探测的 30 项指标中有 26 项、在微调的 30 项指标中有 24 项位居所比较的近期 EEG 基础模型首位,并报告其在多种下游设置中超过较强的任务专用编码器。这些数字是排名领先的指标项数,并非 Accuracy 或提升幅度;摘要未提供具体数据集、指标定义、被试内或跨被试等划分及各项效应大小,不能据此直接推断统一协议下的总体优势。 作者还报告,目标函数消融与表征分析支持不变性导向预训练在重建之外改善迁移,并组织被试敏感的神经表征。复现时需核对临床预训练数据与下游数据的关系、相关观测配对规则、预训练目标、线性探测与微调配置,以及基线训练条件。实验协议、消融及统计信息尚未验证;代码与权重的可用性也尚未验证。
值得关注其以相关 EEG 观测间的表征稳定性替代单纯重建导向的预训练思路,但广谱迁移优势仍需结合全文中的数据划分、基线配置与消融结果核验。
来源:arXiv · EEG 基础模型 · arxiv.org