NeuroTTT:通过测试时训练缓解 EEG 基础模型的预训练与下游任务错配
NeuroTTT: Bridging Pretraining-Downstream Task Misalignment in EEG Foundation Models via Test-Time Training
基于摘要分析。本文研究 EEG 基础模型的预训练目标与下游解码任务错配,以及跨被试分布偏移问题,提出结合领域自监督微调与测试时训练(TTT)的两阶段对齐策略 NeuroTTT。作者以 CBraMod 和 LaBraM 为骨干,在 imagined speech(想象言语)、压力检测和运动想象任务上评估该策略。 第一阶段在基础模型上引入任务相关的自监督目标,使潜在表征对齐 EEG 的频谱、空间和时间特征,不需要额外标注数据。这一设计针对通用预训练表征与具体解码需求之间的差距,但摘要未给出自监督任务的具体构造、损失形式或训练参数更新范围,尚不能判断不同目标各自的贡献。 第二阶段在推理时对单个无标签测试样本进行自监督测试时训练,并结合预测熵最小化(Tent)。摘要将 Tent 的更新范围描述为仅更新归一化统计量,以持续校准新输入;其具体实现、与自监督更新的组合顺序,以及样本间是否保留模型状态,均需全文核对。这些细节关系到在线适应的稳定性与计算成本。 作者报告,该策略在上述三类任务上提高了鲁棒性和准确率,优于常规微调与适应方法,并达到最先进性能;摘要未提供具体数据集、被试数、划分协议、指标数值或基线清单,因此不能量化提升,也不能将结果直接视为已核实的跨被试泛化证据。作者关于首次统一领域自监督与大型 EEG 基础模型测试时训练的表述属于其优先性主张,尚未独立检索确认。 材料提供了代码仓库地址,但代码内容与可运行性尚未验证。复现时应核对预训练和下游数据的关系、被试与会话划分、测试流顺序、标签使用边界、更新步数及状态重置规则,并检查两阶段策略与各自单独使用时的对照。完整实验协议、消融及统计信息尚未验证。
来源:OpenReview · EEG · openreview.net