跳到正文
#Patch Embedding
9月19日周五
  1. OpenReview · EEG71

    stLaBraM：采用因子化时空片段嵌入进行自监督学习的可解释 EEG 基础模型

    基于摘要分析。该研究针对 EEG 基础模型在自监督掩码建模中难以兼顾性能与可解释性的问题，提出 stLaBraM，在 patch embedding 模块中引入可解释的空间与时间滤波，以改善 EEG 表征学习，并分析与掩码建模相关的神经源特征。 机制与创新：标题将方法概括为因子化时空片段嵌入，摘要明确的改动集中在空间、时间滤波及其可解释性，而非仅报告下游分类性能。作者将原始 LaBraM 作为对照，讨论自监督预训练的重建损失及 masked language model（MLM）表现。因子化的具体实现、滤波器约束、掩码策略、重建目标和损失形式尚未验证。 结果：作者报告，相较 LaBraM，该方法在自监督预训练中显著降低重建损失，并在标准 EEG 分类基准上取得更好的表现；摘要未提供数据集名称、评价指标、数值、数据划分或被试内、跨被试等协议，因此目前不能判断增益幅度及其适用范围。作者还报告，模型能够提供与自监督掩码建模相关的神经源二阶动力学性质和皮层位置的解释，但这些解释的计算方式、定位依据与验证程序尚未明确。 验证与复现：阅读全文时应重点核对时空滤波如何分解、如何从滤波器得到神经源解释，以及预训练数据、模型规模和下游评估条件是否与 LaBraM 对齐。还需核对重建损失改善与分类增益之间的关系，以及解释结果对被试差异、通道配置和噪声的稳定性。实验协议、消融及统计信息尚未验证，代码、权重和复现条件亦未由所给材料确认；摘要中的临床应用动机不能视为已完成临床验证。

    阅读价值：值得阅读的具体原因是其将可解释的空间与时间滤波引入 EEG 基础模型的 patch embedding，并以 LaBraM 为对照讨论重建与分类表现；性能增益及神经源解释的可靠性仍需全文验证。

9月11日周四
  1. OpenReview · EEG78

    EEG-X：设备无关且噪声鲁棒的 EEG 基础模型

    基于摘要分析。EEG-X 针对记录设备与配置差异导致的跨数据集变化，以及 EEG 低信噪比问题，提出结合通道空间位置编码、噪声感知掩码重建和特征空间重建损失的 EEG 基础模型，旨在学习更具跨域适应性与噪声鲁棒性的表征。 核心机制包括三部分：其一，基于位置的通道嵌入编码空间信息，使模型能够处理不同通道数量、通道组合和记录长度。其二，在原始空间与潜在空间采用噪声感知掩码—重建策略；与重建原始含噪 EEG 的做法不同，重建目标来自伪迹去除后的信号，作者意图借此使表征更关注神经活动而非噪声。其三，dictionary-inspired convolutional transformation（DiCT）层在计算重建 MSE 损失前，将信号投影至结构化特征空间；作者认为该设计可降低噪声敏感性，并捕捉频率与波形形状相关的相似性。具体去伪迹流程、掩码规则、DiCT 实现及各目标的组合方式尚未验证。 作者报告，在来自不同设备的数据集及多个下游 EEG 任务上，EEG-X 优于所比较的现有先进方法，并在预训练与下游数据电极布局不同的跨域设置中表现突出。摘要未提供数据集名称、任务明细、被试数量、划分方式、指标或数值，因此不能据此量化收益，也不能将这里的跨域结果直接等同于跨被试或跨会话性能。 复现时值得核对位置嵌入对通道坐标的依赖、去伪迹处理是否保留任务相关信号，以及各模块在不同设备与电极布局下的独立贡献；这些属于待核对事项，而非已确认的缺陷。摘要提供了模型与代码入口，但其可用性、训练配置、实验协议、消融及统计信息尚未验证。

    阅读价值：值得核对和复现的是 EEG-X 将位置编码、去伪迹重建目标与 DiCT 特征空间损失结合，以应对电极布局差异和低信噪比；作者报告的跨域优势仍需结合完整实验协议验证。

9月26日周四
  1. OpenReview · EEG76

    以大型时空 Transformer 为基础模型学习鲁棒 EEG 表征

    基于摘要分析。研究针对 EEG 基础模型难以适应不同记录配置、BCI 控制范式及有限标注数据的问题，提出时空 EEG Transformer（ST-EEGFormer），通过自监督预训练与下游微调学习可迁移的 EEG 表征。其主要贡献是将不同通道配置和信号时长的建模，与跨 MI、P300、SSVEP 范式的适应性评估结合起来。 方法将原始 EEG 切分为片段（patches），投影到嵌入空间，并加入空间与时间嵌入。作者以掩码自编码器（MAE）任务进行自监督预训练，预训练数据由六个公开运动想象（MI）数据集、一个公开 P300 数据集和一个公开稳态视觉诱发电位（SSVEP）数据集组成。摘要未提供片段长度、空间位置编码方式、掩码策略、重建目标细节或模型规模，尚不能确认其处理不同通道配置的具体实现条件。 评估包括预训练所涉及八个数据集上的下游分类微调，以及两个未参与预训练的公开数据集：癫痫发作分类数据集和在线 MI BCI 数据集。对照模型包括简单线性模型、EEGNet、监督学习模型 EEG Conformer，以及基础模型 BIOT 和 Large Brain Model（LaBraM）。作者报告，预训练后的 ST-EEGFormer 在八个预训练数据集的下游分类中均取得高于所比较模型的 Accuracy，并在新数据集、有限训练数据条件下表现出较强泛化能力；摘要未给出具体数值或有限数据的规模。 这些结果支持进一步核查统一时空表征与 MAE 预训练的适应性，但不能直接解释为已验证的跨被试、跨会话或无需微调的泛化。数据集名称、被试数、训练与测试划分、预训练与评估样本的关系、各基线微调预算、消融及统计信息尚未验证。作者还提供模型及支撑结果的特征可视化，其解释性结论需结合正文审阅；代码、权重与完整复现条件尚未验证。

    阅读价值：值得阅读其跨 MI、P300 与 SSVEP 范式的统一预训练设计，以及在未参与预训练的数据集上检验有限训练数据条件下泛化能力的实验；作者报告的优势仍需结合具体划分、微调预算与统计结果核对。