状态空间模型在动态 token 选择上可证明与 Transformers 相当
State Space Models are Provably Comparable to Transformers in Dynamic Token Selection
基于摘要分析。该研究探讨状态空间模型(SSMs)结合全连接神经网络后,能否根据输入动态提取关键 token,并在特定任务与函数类下建立其与 Transformers 的能力比较。 核心机制与理论贡献:作者指出,既有理论研究多关注不含非线性层的 SSM 层,难以充分解释 SSM 与非线性模块组合后的能力。本文将研究对象扩展到 SSM 与全连接神经网络的组合;作者报告,这种组合在输入依赖的关键 token 提取能力上可与 Transformers 相当。摘要未给出具体网络结构、动态选择机制、证明假设或复杂度界,不能据此推断任意 SSM 架构均具备同等能力。 任务与结果:作者报告,在两个对单个 SSM 层具有挑战性的合成任务上,加入非线性层的 SSM 能高效求解;此外,在非参数回归问题中,作者证明 SSM 与 Transformers 对某一函数类的估计能力等价。合成任务定义、函数类约束、样本规模、评估指标及比较协议尚未验证,因此这些结论应限定在论文所设条件内,而非推广为一般任务上的性能等价。 平台推测(待验证):若 EEG 任务需要按输入选择少量关键时间片段,该理论可能为评估 SSM 与非线性模块的组合提供依据。但其对 EEG 低信噪比、跨被试变化和小样本条件的适用性尚未验证;需先核对定理对输入结构、监督形式及函数类的要求,再判断是否具备迁移路径。已有 EEG 相关工作尚未检索确认。全文证明、实验协议、消融及统计信息尚未验证。
值得阅读其关于 SSM 与非线性层组合的理论分析,以核对动态 token 选择和非参数回归中与 Transformers 可比的具体条件,而非将其理解为普遍性能等价。
来源:OpenReview · State space models · openreview.net