跳到正文
OpenReview · EEG· Tim Bary; Benoit Macq·· 2024-06-23AI 评分66

从无标注数据构建用于 Transformer EEG 分类的预训练数据集

Designing Pre-training Datasets from Unlabeled Data for EEG Classification with Transformers

AI 导读

基于摘要分析。该研究针对 EEG 专家标注成本高、Transformer 训练所需标注数据不足的问题,提出从无标注 EEG 数据构建多个带标签数据集,用于预训练 Transformer 并学习 EEG 信号表征。论文的具体验证对象是癫痫发作预测,而非直接的 BCI 控制任务。 方法上,作者将无标注 EEG 转化为可用于预训练的数据集,再在目标任务上微调。摘要将这一流程置于自监督学习背景下,但未说明标签如何构造、预训练任务是什么,以及所用损失、采样方式和训练流程,因此尚不能判断其表征学习机制或各预训练数据集的作用。 作者在 Temple University Seizure Detection Corpus 上使用 Multichannel Vision Transformer,与未预训练模型比较。作者报告,在该癫痫发作预测任务中,预训练使微调时长减少超过 50%;Accuracy 从 90.93% 提升至 92.16%,AUC 从 0.9648 提升至 0.9702。这些结果仅适用于摘要所述任务与对照,不能外推为其他 EEG 分类或 BCI 任务的已验证收益。 摘要未提供被试数、数据划分、是否采用被试内或跨被试评估、预测时间窗口、类别分布及重复实验信息,实验协议、消融及统计信息尚未验证。复现时需核对预训练数据构造规则、预训练与评估数据的关系、微调时长的计时范围,以及预训练本身的计算成本;微调加速并不直接等同于总训练成本降低。当前材料不足以确定具体可复用模块,不据此提出 BCI 迁移方案。

来源:OpenReview · EEG · openreview.net