利用预训练语言模型进行基于 EEG 的癫痫检测
Harnessing Pre-trained Language Models for EEG-based Epilepsy Detection
基于摘要分析。该研究面向基于 EEG 的癫痫检测,提出 PLM2EEG,将预训练语言模型用于 EEG 分析,以应对 EEG 自监督预训练的计算成本、低信噪比及高质量训练数据有限等问题。其核心贡献是结合 EEG Tokenization 与预训练语言模型,探索复用语言预训练表示处理生理信号的可行性。 机制上,EEG Tokenization 将每个通道的固定长度 EEG 片段作为 token,承载局部特征并与预训练语言模型的输入维度对齐;随后加入通道嵌入和位置嵌入,以保留信号的时空信息。第二个组件被称为 Frozen Pretrained Model,保留预训练语言模型的自注意力层和前馈层。摘要同时提到针对 EEG 任务进行微调,但哪些参数冻结、哪些参数更新,以及输入对齐方式、任务输出头和训练损失,尚未验证,不能据此认定整个语言模型均参与微调或均被冻结。 作者报告,在两个大型数据集的 EEG 任务上,PLM2EEG 显著优于已有自监督预训练模型,并改善跨数据集学习表现。摘要未提供数据集名称、被试数量、数值指标、对照模型和统计检验细节,因此目前无法判断优势幅度,也不能将跨数据集学习直接等同于无目标域训练的跨数据集泛化。 复现时需核对预训练语言模型及其规模、EEG 分段与预处理、通道配置、冻结与微调策略,以及被试和数据集划分。实验协议、消融及统计信息尚未验证;尤其需要确认性能提升与语言预训练、时空嵌入及任务适配各自的关系。该材料支持 EEG 癫痫检测方法研究,不足以推断其在其他 BCI 任务中的有效性或临床诊断价值。
来源:OpenReview · EEG · openreview.net