跳到正文
只看表征与基础模型#Spectral Representation
10月6日周二
  1. arXiv · EEG 与神经表征78

    SpecBraM：EEG 基础模型应预测什么？掩码频带功率预测与波形重建的比较

    基于摘要分析。研究探讨 EEG 自监督预训练应预测何种物理量，提出 masked band-power prediction（MBP，掩码频带功率预测），并与波形重建比较。其核心贡献是通过匹配条件的实验检验预训练目标对睡眠分期表征的影响，同时考察收益能否迁移到其他任务。 MBP 为被掩码的通道—时间片段预测固定窄频带的对数谱能量，旨在保留与睡眠分期相关的节律功率，避免相位敏感的波形重建及学习式码本。作者使用三个预训练随机种子，在相同骨干、2,388 小时预训练数据和相同训练步数下比较频带功率与波形目标，并采用 2×2 tokenizer-by-target 设计区分 tokenizer 与预测目标的影响；摘要未提供具体骨干、损失形式或频带配置。 作者报告，在 ISRUC 和 HMC 睡眠分期的严格线性探测协议下，使用全部标签时，MBP 相较原始波形及频带波形重建提高 1.6–2.8 个 Balanced Accuracy 百分点；使用 1% 标签时提高 4.7–7.3 个百分点，且目标的影响大于 tokenizer 的影响。按 ISRUC/HMC 顺序，冻结特征的 Balanced Accuracy 为 0.7916/0.7425，匹配的丰富手工频谱特征基线为 0.7636/0.7227；但在 1% 标签条件下，与该基线的差距约为一个百分点。作者报告，全量微调的 Balanced Accuracy 为 0.8107/0.7669。被试与会话划分、标签抽样方式、各对照的具体实现及统计不确定性尚未验证，不能据此直接比较其他研究的分数。 作者报告，这些收益未普遍扩展到运动想象、抑郁筛查和警觉性回归等具有频谱线索的任务，支持根据下游标签相关的物理量及空间、时间尺度选择预训练目标，而非将 MBP 视为普适替代方案。复现需核对预训练数据组成、掩码策略、频带定义、线性探测约束和 1% 标签采样协议；完整实验协议、消融及统计信息尚未验证。

    阅读价值：匹配骨干、预训练数据与训练步数的目标对照及 tokenizer-by-target 设计，有助于核对睡眠分期收益是否主要来自预训练目标，同时其未普遍迁移的结果值得用于审视 EEG 基础模型的任务适用边界。

10月4日周日
  1. arXiv · EEG 与神经表征79

    SPERA：采用几何与频率感知潜空间预测的球面先验 EEG 基础模型

    基于摘要分析。SPERA 针对被试、设备及电极布局异质性带来的通用 EEG 建模难题，采用 joint-embedding predictive architecture（JEPA）进行潜空间预测，并结合电极几何先验与频谱关系约束，构建 EEG 基础模型。其出发点是：观测信号同时包含神经与非神经成分，直接重建信号的训练目标未必最适合学习通用表征；这一动机不等于模型已被证明能够分离两类成分。 机制上，SPERA 将 Legendre-polynomial 空间先验融入注意力，以编码不同头皮电极几何；采用分解式时间与空间注意力，并穿插周期性全注意力块；通过 relational spectral regularizer，使潜空间相似性结构与频谱视图对齐。这些设计分别面向电极布局变化、时空交互建模和频谱结构约束。摘要未提供潜空间预测目标、频谱视图构造、正则项公式及各组件训练细节，其具体实现尚未验证。 作者报告，模型在来自 106 个数据集、29,048 名被试的约 80,000 小时 EEG 上进行预训练，并在覆盖临床、认知和 BCI 应用的九项下游任务中取得最高平均 Balanced Accuracy。该结论限定于作者采用的任务集合与比较范围；摘要未列出具体任务、对照模型、分数、汇总方式，以及被试内、跨被试、跨会话或跨数据集划分，不能据此判断各类泛化能力。作者还报告在线性探测下具有较强参数效率，并对不同记录条件表现出稳健性，但参数规模、冻结与训练设置及稳健性测试条件尚未验证。 复现与阅读重点是核对预训练和下游数据的划分关系、电极坐标及缺失通道处理、频谱约束的实现，以及几何先验、分解式注意力和频谱正则各自的贡献。实验协议、消融及统计信息尚未验证；代码、权重和数据可获取性也无法由摘要确认。

    阅读价值：值得核对 SPERA 如何将电极几何先验与频谱关系约束引入潜空间预测，以及作者报告的下游表现是否在不同电极布局和评估协议下保持稳定。