跳到正文
arXiv · EEG 基础模型· Yifan Wang; Haiping Liu; Yang Cui; Wenhao Cai; Shuhang Li; Xiaoyang Huang; Xianyang Liu; Jingyu Sun; Yizheng Sun; Cunhang Fan; Tianming Du; Jiancheng Yang; Zhenhong Li; Yunhao Zhang; Hongpeng Zhou; Jingyuan Sun·· 20 天前精选AI 评分80

NeurDuo-EEG:具有持久状态与显式记忆的长序列 EEG 基础模型

NeurDuo-EEG: A Long-Sequence EEG Foundation Model with Persistent State and Explicit Memory

AI 导读

基于摘要分析。NeurDuo-EEG 针对 EEG 基础模型独立处理固定窗口、难以利用长时程动态的问题,提出具有按通道维护的持久记忆的因果 EEG 基础模型,在固定大小状态下持续处理连续 EEG。 其机制重点是多时间尺度记忆管理,通过学习式记忆巩固与选择性检索,补充状态空间架构将长程信息隐式压缩进递归状态的处理方式。模型在来自 17 个公开数据集的 3,955 小时 EEG 上预训练,目标为多通道离散频谱编码的自回归预测。频谱编码的构建方式、记忆更新与检索实现、训练序列长度及状态初始化策略尚未验证。 作者报告,在三个短窗口任务和两个长序列下游任务中,NeurDuo-EEG 在五项基准中的四项取得最佳表现,涵盖全部三个短窗口任务及癫痫发作检测。在摘要所述癫痫发作检测评估中,相比最强非 NeurDuo 基线,AUC-PR 从 0.285 提升至 0.471;具体数据集、划分、基线身份及统计不确定性尚未验证,不能据此判断跨被试或跨数据集泛化能力。作者报告模型在睡眠分期上也保持竞争力,但摘要未给出对应指标。 在流式推理方面,作者报告,随着可用历史增长至一小时,每个数据块的延迟近乎恒定,并指出 Small 变体仅有 4.7M 个骨干参数。该参数量不等同于完整系统参数量;硬件、数据块长度、状态存储开销及具体延迟尚未验证。 复现时值得核对持久状态在记录与被试边界的重置规则、长历史收益与记忆模块的消融,以及预训练数据与下游评估的划分关系。摘要提供了代码仓库,但代码完整性、权重可用性、实验协议、消融及统计信息尚未验证。上述结果支持进一步评估持续建模的价值,但不直接证明在线 BCI 场景中的有效性。

阅读价值

值得核对其按通道维护的持久记忆能否在固定状态规模下保留长时程 EEG 信息,尤其是癫痫发作检测的 AUC-PR 改善与流式推理延迟所对应的评估协议。

来源:arXiv · EEG 基础模型 · arxiv.org