对角状态空间与结构化状态空间同样有效
Diagonal State Spaces are as Effective as Structured State Spaces
该研究面向序列数据中的长程依赖建模,提出 Diagonal State Space(DSS),以对角状态矩阵替代 S4 的“对角加低秩”结构,检验去除低秩修正后能否维持任务性能。基于摘要分析,未取得论文全文。 核心机制与对照:摘要将 S4 的高效计算归因于状态矩阵的对角加低秩参数化;DSS 保留对角结构而不使用低秩修正。其研究价值在于考察这一结构简化的有效性,而非提出新的 EEG 解码方法。作者报告,DSS 在 Long Range Arena 任务及 Speech Commands 数据集的语音分类任务上达到与 S4 相当的性能,同时概念更简单、实现更直接。摘要未提供具体分数、数据划分、训练预算或效率测量,因此“性能相当”的范围与计算收益仍需查阅正文;实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 任务需要利用较长时间跨度的信息,DSS 的对角状态空间机制可作为长程时序建模模块的候选,但原领域结果不等于 BCI 有效性。可复用部分是状态空间参数化,需改造输入通道表示及任务输出;其对采样长度、监督规模和通道结构的依赖仍需核对。低信噪比、跨被试分布变化、通道差异及小数据可能限制收益。 一个可检验的小实验是:在固定 EEG 数据划分、预处理和训练预算下,对照 DSS 与 S4,分别报告被试内及跨被试结果,检验去除低秩修正是否保持同一任务指标,并实测计算开销。该建议属于迁移假设,已有 EEG 相关工作尚未检索确认。
该研究直接检验 S4 的低秩修正是否为长程任务性能所必需,为简化状态空间模型实现提供了可核对的对照问题,但其 EEG 适用性尚未验证。
来源:OpenReview · State space models · openreview.net