跳到正文
OpenReview · EEG· Jingying Ma; Feng Wu; Qika Lin; Yucheng Xing; Chenyu Liu; Ziyu Jia; Mengling Feng·· 2025-01-01精选AI 评分75

CodeBrain:结合解耦 Tokenizer 与多尺度架构的 EEG 基础模型

CodeBrain: Bridging Decoupled Tokenizer and Multi-Scale Architecture for EEG Foundation Model

AI 导读

基于摘要分析。CodeBrain 面向通道配置、序列长度和任务目标差异导致的 EEG 模型迁移困难,提出将时频解耦 Tokenizer 与多尺度架构结合的两阶段 EEG 基础模型,以增强异质信号表征和长短程依赖建模。 第一阶段,TFDual-Tokenizer 分别对时间与频率成分进行离散化。作者称,这种解耦方式使离散表征空间获得平方级扩展,并可通过跨域 token 分析提供一定可解释性;具体码本配置、组合方式及解释性验证尚未验证。第二阶段,EEGSSM 将结构化全局卷积与滑动窗口注意力结合,用于联合建模稀疏长程依赖和局部依赖,并以掩码自监督目标预测 TFDual-Tokenizer 生成的 token 索引。摘要未给出具体损失形式、掩码策略或训练规模。 相较于全连接 Transformer,作者将 EEGSSM 的设计解释为更贴近脑网络的小世界拓扑,并更高效地捕捉 EEG 的多尺度结构。这是作者的结构动机与结论,尚不能据此认定模型已验证真实脑连接结构,或在计算开销上具有确定优势。 作者报告,在 10 个公开 EEG 数据集上采用 linear probing 评估,结果支持 CodeBrain 的泛化能力。摘要未提供数据集名称、任务、被试数量、划分方式、对照基线和指标数值,因此无法判断其证据对应被试内、跨被试、跨会话还是跨数据集泛化,也不能直接比较不同协议下的性能。 复现时需核对时频解耦与多尺度模块各自的贡献、不同通道配置和序列长度的处理方式,以及预训练与下游评估的数据关系。实验协议、消融及统计信息尚未验证。作者表示代码与预训练权重将在未来版本发布;当前材料不能确认其已公开,也不能据此归类为模型或软件发布。

阅读价值

值得阅读其时频解耦离散表征与全局—局部依赖建模的组合机制,但作者所述泛化能力与效率优势仍需结合完整评估协议、消融及资源开销核对。

来源:OpenReview · EEG · openreview.net