跳到正文
OpenReview · EEG· Weibang Jiang; Liming Zhao; Bao-liang Lu·· 2024-01-16精选AI 评分81

利用海量 EEG 数据学习 BCI 通用表征的 Large Brain Model

Large Brain Model for Learning Generic Representations with Tremendous EEG Data in BCI

AI 导读

基于摘要分析。该研究针对 EEG 深度学习模型通常局限于特定数据集与应用、难以学习通用表征的问题,提出 EEG 基础模型 Large Brain Model(LaBraM),通过跨数据集无监督预训练及下游微调支持不同任务。 核心机制是将 EEG 信号切分为 EEG channel patches,以支持跨数据集学习;使用 vector-quantized neural spectrum prediction 训练 neural tokenizer,将连续原始 EEG channel patches 编码为紧凑的 neural codes;随后通过预测被掩码 EEG channel patches 对应的原始 neural codes,预训练 neural Transformers。其预训练目标因此并非直接重建原始波形,而是预测 tokenizer 产生的离散代码。摘要将电极数量不一致、样本长度不等、任务设计差异与低信噪比列为主要挑战,但各类差异的具体处理及其独立贡献尚未验证。 作者报告,LaBraM 在约 20 个数据集、约 2,500 小时的多类型 EEG 信号上预训练,并在异常检测、事件类型分类、情绪识别及步态预测等下游任务中验证。作者报告其在这些任务上优于各领域所有纳入比较的 SOTA 方法;摘要未提供具体指标、提升幅度、下游数据集名称及被试内、跨被试或跨会话划分,因此不能据此判断各协议下的泛化程度,也不能将多任务结果等同于所有 BCI 场景中的有效性。 摘要提供了代码仓库。复现时需核对数据集组成、预训练与下游数据的关系、通道及时长处理、tokenizer 训练方式、微调配置和基线协议;这些内容以及消融、统计信息均尚未验证。

阅读价值

值得关注其以 EEG channel patches、向量量化神经 tokenizer 与掩码神经代码预测实现跨数据集预训练的机制,但通用表征的有效范围仍需结合下游划分、基线和消融验证。

来源:OpenReview · EEG · openreview.net