跳到正文
OpenReview · State space models· Peihao Wang; Ruisi Cai; Yuehao Wang; Jiajun Zhu; Pragya Srivastava; Zhangyang Wang; Pan Li·· 2025-01-23精选AI 评分81

从近因偏置与过度平滑视角理解并缓解状态空间模型的瓶颈

Understanding and Mitigating Bottlenecks of State Space Models through the Lens of Recency and Over-smoothing

AI 导读

基于摘要分析。本文研究结构化状态空间模型(SSMs)在长序列建模中的瓶颈,提出近因偏置与深层过度平滑之间的权衡,并通过极化状态转移矩阵中的两个通道来缓解这两类问题。研究对象是通用序列模型,并非 EEG 或 BCI 专用方法。 作者报告,其理论分析表明 SSMs 存在较强的近因偏置,实证研究显示该偏置影响远距离信息回忆并带来鲁棒性问题。扩展实验提示增加深度有助于学习长上下文,但进一步的理论分析指出,深度增加也会使 token 表征趋于难以区分,即过度平滑。上述理论结论的适用模型、假设与边界仍需全文核对。 方法上,作者提出将状态转移矩阵的两个通道分别设为零和一,以同时应对近因偏置与过度平滑。作者报告,在所研究的长距离 token 关联回忆实验中,该方法持续提高 Accuracy,并使 SSMs 能进一步受益于更深的架构。摘要未提供数据集、序列长度、模型配置、基线或具体数值;实验协议、消融及统计信息尚未验证。摘要声明代码已公开,但实现与复现条件尚未核验。 平台推测(待验证):假设 EEG 任务确实依赖较远时间位置的信息,且深层 SSM 编码器存在时间表征趋同,状态转移极化可能是可复用的模块。原研究依赖序列结构及可评估远距离信息回忆的任务,其监督方式和训练规模尚未验证;迁移到 EEG 需适配多通道输入、采样尺度及任务读出。低信噪比可能使保留的远程信息主要成为噪声,跨被试与通道差异、小数据训练也可能抵消收益。可在固定 EEG 数据划分、训练预算与任务指标的条件下,对比原始与极化 SSM,并考察不同深度及远端时间片遮挡造成的性能变化,以检验收益是否对应远程信息利用。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其关于 SSM 近因偏置与深层过度平滑之间权衡的理论分析及状态转移矩阵极化方法,但其对 EEG 长程依赖建模的价值尚未验证。

来源:OpenReview · State space models · openreview.net