基于递归正交滤波器的神经时间序列自监督学习
Self-Supervised Learning with Recursive Quadrature Filters for Neural Time Series
基于摘要分析。本文研究如何从无标签神经时间序列中学习表征,提出以预测误差为自监督目标训练 Recursive Quadrature Filter(RQF)编码器,并将预训练表征用于后续任务。其主要研究对象是头皮 EEG 和颅内记录,贡献在于将参数化带通滤波机制与未来状态预测结合,而非直接采用大规模通用编码器。 RQF 是受生物机制启发的复值时间滤波器,属于对角状态空间模型(SSMs)的一类。每个滤波器的频率选择性由可学习的调谐频率和带宽决定。训练时,编码器与预测头共同预测由编码器未来状态构成的目标:窗口模式以当前窗口的摘要表征预测后续窗口的摘要表征;密集模式以当前时刻状态预测未来对数功率。摘要未提供具体损失公式及目标构造的完整实现。 预训练后,在编码器输出上训练任务读出模块,编码器可冻结或整体微调。对于多通道 EEG 和颅内记录,各通道分别经过共享编码器,再由利用电极位置的空间读出模块整合通道表征。这使时间滤波与跨通道整合在结构上有所分工,值得进一步核对其对不同通道配置的适应条件。 作者报告,在四个使用头皮或颅内 EEG 的神经信号基准上,预训练 RQF 系统以较少参数取得接近当前先进方法的表现。其中,110k 参数系统在 TUAB 测试集上的 AUROC 为 0.9130 ± 0.0036;作者称其处于参数量为 1.0M–369M 的先进 EEG 基础模型所达到的范围内。该比较不等于已确认各方法采用完全一致的数据划分与训练条件,误差项含义也尚未验证,不能据此断言统计等效或全面优于大型模型。 复现时需核对预训练数据范围、测试划分、信号预处理、窗口长度与预测跨度、电极位置编码,以及冻结和全量微调各自对应的结果。其余基准名称、实验协议、消融及统计信息尚未验证;当前材料未提供代码与完整复现配置。
值得核对其可学习频率与带宽的 RQF 编码器能否以较少参数获得有效的 EEG 表征;作者报告了 TUAB 上的具体 AUROC,但与大型 EEG 基础模型的协议可比性及消融结果尚未验证。
来源:OpenReview · EEG · openreview.net