用于基于 EEG 的听觉注意解码中多模态到单模态迁移的双曲表示学习
Hyperbolic Representation Learning for Multimodal-to-Unimodal Transfer in EEG-based Auditory Attention Decoding
基于摘要分析。该研究针对 EEG 听觉注意解码(AAD)在跨被试、跨数据集及不同采集系统下的泛化困难,以及辅助生理信号在推理时不一定可用的问题,提出码本引导的预训练框架。其核心贡献是利用配对 EEG 与辅助信号学习多模态表示,再将共享信息转移到仅依赖 EEG 的下游注意预测流程。 预训练时,两个独立编码器将两种模态映射到双曲空间;双曲残差码本以公共码表示共享生理结构,以残差码表示模态特有信息。共享中心对齐目标进一步使两种模态的公共表示一致。随后,框架遮蔽部分 EEG 表示,训练 EEG 编码器预测由配对多模态数据学习的码本目标,使 EEG 获得共享的表示词汇。下游 AAD 使用预训练 EEG 编码器提取特征,再交由分类器预测注意状态,不要求推理阶段提供辅助信号。 作者报告,在 AVGCAAD 和 EARAAD 数据集上的跨被试与跨数据集实验中,该模型优于多种被作者称为 SOTA 的基线;作者还报告,消融结果支持各关键模块对性能收益的贡献。摘要未提供具体指标、数值、基线名称或数据划分,因此尚不能量化收益,也不能将跨数据集结果直接等同于独立验证了跨采集系统泛化。 复现与证据核对的重点包括:辅助生理信号的种类及配对方式、双曲空间与码本的具体实现、共享中心对齐和码本预测目标的定义、掩码策略,以及预训练数据与下游评估数据的划分关系。还需核对双曲几何相对其他表示空间、公共码与残差码、对齐目标及掩码预测各自的消融结果。实验协议、消融及统计信息尚未验证;模型规模、训练成本与代码可用性也未能从摘要确认。
值得核对其双曲残差码本与掩码预测如何将训练期辅助生理信号转移到仅用 EEG 的推理流程,以及作者报告的跨被试、跨数据集收益是否在不同采集系统下成立。
来源:OpenReview · EEG · openreview.net