从近因偏置与过平滑视角理解并缓解状态空间模型的瓶颈
Understanding and Mitigating Bottlenecks of State Space Models through the Lens of Recency and Over-smoothing
基于摘要分析。本文研究结构化状态空间模型(SSMs)在长序列建模中的近因偏置,以及增加深度后出现的过平滑问题,提出通过极化状态转移矩阵中的两个通道缓解这两类瓶颈。原论文主要面向通用序列建模与关联回忆,并非 EEG 或 BCI 验证研究。 机制与贡献:作者报告,其理论分析表明 SSMs 存在较强的近因偏置,实证研究显示该偏置损害远距离信息回忆并带来鲁棒性问题。作者报告,扩展实验中加深模型有助于学习长上下文,但进一步理论分析指出,深度增加又会导致 token 表征趋于难以区分,即过平滑。所提极化方法将状态转移矩阵中的两个通道分别设为零和一,旨在同时缓解近因偏置与过平滑;具体通道定义、约束方式及与训练过程的结合尚需核对全文。 结果与复现:作者报告,在所研究的长距离 token 关联回忆实验中,该方法持续提高准确率,并使 SSMs 能进一步受益于更深架构。摘要未提供具体数据集、序列长度、模型配置、数据划分、对照基线及数值,实验协议、消融及统计信息尚未验证。作者声明已公开源代码,但实现与实验复现情况尚未验证。 平台推测(待验证):若 EEG 任务确实依赖相距较远的时序信息,这一机制可能用于检验 SSM 编码器是否过度依赖近期片段。原方法依赖序列结构,摘要中的效果证据来自关联回忆任务,其训练监督与规模尚未验证。可考虑复用状态转移极化思路,但需适配 EEG 分段、通道融合及任务监督;低信噪比、跨被试差异、通道变化和小数据可能削弱收益,强调远距离信息也可能保留无关噪声。一个可证伪的小实验是在固定数据划分、输入长度和训练预算下,对比同深度 SSM 有无极化,并通过遮挡远端与近期片段检验信息依赖及任务表现是否同步改善。已有 EEG 相关工作尚未检索确认。
值得核对其对 SSM 近因偏置与深层过平滑之间矛盾的理论分析,以及状态转移矩阵极化能否改善远距离关联回忆;其对 EEG 长时依赖建模的价值尚未验证。
来源:OpenReview · State space models · openreview.net