FEMBA:基于双向 Mamba 基础模型的高效、可扩展 EEG 分析
FEMBA: Efficient and Scalable EEG Analysis with a Bidirectional Mamba Foundation Model
基于摘要分析。研究面向长期监测中的 EEG 癫痫发作与伪迹检测,提出自监督框架 FEMBA(Foundational EEG Mamba + Bidirectional Architecture),以双向状态空间建模降低长序列处理成本,并通过大规模无标签 EEG 预训练支持下游分析任务。 核心机制是采用双向 Mamba 架构。作者将其序列长度线性扩展的计算特性,与传统 Transformer 的二次时间和内存复杂度进行对照;具体双向信息融合方式、自监督目标、输入表示、训练窗口及推理流程尚未验证。线性扩展特性不等同于已经证明在具体硬件上具有相同比例的时延或能耗优势。 作者报告,模型使用超过 21,000 小时无标签 EEG 进行训练,并在三个下游任务上微调,性能可与 Transformer 模型竞争且计算成本显著更低。摘要列出的结果为:TUAB 上 Balanced Accuracy 为 81.82%、AUROC 为 0.8921;TUAR 上 AUROC 为 0.949。摘要未说明这些结果属于被试内、跨被试或其他划分协议,也未给出第三个任务、具体对照模型及计算成本测量条件,因此不能据此进行跨协议比较。作者还报告了一个 7.8M 参数的小型变体,但未明确该变体是否对应上述分数,也未提供设备端时延、内存或能耗结果。 复现时需核对预训练数据构成及其与下游测试数据的隔离方式、数据划分、预处理、微调设置、双向建模的消融,以及同等输入长度和硬件条件下的效率对照。这些实验协议、消融及统计信息尚未验证。论文主要贡献指向通用 EEG 分析,而非已验证的 BCI 控制性能;医院诊断和可穿戴应用是作者提出的应用方向,尚不能视为临床有效性或端侧部署已获验证。
值得核对其双向状态空间建模在长序列 EEG 上的性能与计算成本权衡,尤其是预训练数据与下游评估的隔离方式及小参数版本的实际部署条件;摘要中的可穿戴应用潜力尚未获得设备实测支持。
来源:OpenReview · EEG · openreview.net