WavSpA：用于提升 Transformer 长序列学习能力的小波空间注意力

基于摘要分析。本文研究通用 Transformer 的长序列学习，提出 Wavelet Space Attention（WavSpA），将注意力学习移至小波系数空间，以利用小波对位置与频率信息的联合表征；原论文的主要研究对象不是 EEG 或 BCI。 核心流程包括：先以前向小波变换将输入序列投影到多分辨率基，在小波系数空间进行注意力学习，再通过逆小波变换重建输入空间中的表示。作者认为，相较 Fourier 变换，小波变换能同时保留位置与频率信息，并具有线性时间复杂度；该复杂度描述不能直接视为整个 WavSpA 注意力模块的复杂度保证。摘要涉及固定与自适应小波，但其参数化、训练目标及具体实现尚未验证。 作者报告，在 Long Range Arena 的实验中，采用固定或自适应小波的 WavSpA 均能持续改善 Transformer 表现，且优于 Fourier 空间注意力；作者还报告，在 LEGO chain-of-reasoning task 上，该方法增强了跨距离的推理外推能力。摘要未提供具体分数、任务划分、基线配置或计算开销，实验协议、消融及统计信息尚未验证，不能据此量化收益或判断公平对照条件。 平台推测（待验证）：其迁移假设是，多分辨率时频表征可能帮助 EEG 模型区分短时事件与较长时间尺度的变化。可复用候选是小波变换、系数空间注意力与逆变换流程；需针对采样率、通道布局和任务频段改造输入表征，并核对多尺度重建的对齐方式。摘要未明确原实验的监督与数据规模需求；EEG 的低信噪比、跨被试频谱差异、通道变化和小数据训练均可能削弱收益。一个可证伪的小实验是，在同一 EEG 分类任务、固定跨被试划分和一致训练预算下，对照原始时域注意力、Fourier 空间注意力与 WavSpA，分别评估分类指标、推理开销及多次训练的波动。已有 EEG 相关工作尚未检索确认。