START:具有显著性驱动的 token 感知变换的广义状态空间模型
START: A Generalized State Space Model with Saliency-Driven Token-Aware Transformation
基于摘要分析。本文研究由 CNN、ViT 与 Mamba 等架构承载的域泛化问题:利用多个源域训练,使模型泛化至未见目标域。作者提出 START,在状态空间模型(SSM)的输入依赖矩阵中,对显著 token 的域特异特征进行选择性扰动与抑制,以减少域间差异;原研究并非 EEG 或 BCI 验证。 核心机制:作者认为,CNN 的有限感受野容易产生纹理偏置,而 ViT 的全局建模伴随自注意力的二次复杂度。Mamba 提供随序列长度线性增长的计算复杂度,但作者分析发现,其输入依赖矩阵可能累积并放大域特异特征,损害泛化。START 将干预位置放在这些矩阵及其显著 token 上。显著性如何计算、扰动如何实施、训练目标及推理时是否启用变换,摘要未说明,尚未验证。 结果与复现:作者报告,在五个基准上,START 优于已有 SOTA 域泛化方法,并保持高效的线性复杂度。摘要未提供基准名称、指标数值、域划分、对照配置或实际运行开销,无法据此比较收益幅度。作者提供了代码链接,但代码完整性、实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 的跨被试或跨会话差异也通过输入依赖矩阵被放大,这种矩阵内的选择性干预可能用于抑制域特异信息。可复用的是干预思路,需改造 EEG 的时序或通道 token 构造及显著性估计;其训练还依赖多个源域。低信噪比下,显著 token 可能对应伪迹,也可能承载任务有效信号,抑制不当会损害解码;通道差异及小数据也可能使显著性估计不稳定。可检验的小实验是在固定 EEG 数据与留一被试域泛化划分下,对比同一 Mamba 基线及加入该变换的版本,保持训练预算一致,并核对显著性选择的作用。已有相关 EEG 工作尚未检索确认。
值得核对的是作者对 Mamba 输入依赖矩阵累积域特异特征的机制分析,以及显著 token 扰动能否在维持线性复杂度的同时改善域泛化;其 EEG 适用性尚未验证。
来源:OpenReview · State space models · openreview.net