跳到正文
OpenReview · State space models· Qinshuo Liu; Weiqin Zhao; Wei Huang; Yanwen Fang; Lequan Yu; Guodong Li·· 2025-01-23精选AI 评分72

从层到状态:深度神经网络层动态的状态空间模型视角

From Layers to States: A State Space Model Perspective to Deep Neural Network Layer Dynamics

AI 导读

基于摘要分析。本文研究深层神经网络如何复用先前层的信息以增强当前层的特征表示,将各层输出视为连续过程的状态,并提出 Selective State Space Model Layer Aggregation(S6LA),利用 Selective State Space Models(S6)设计层间聚合模块。 核心机制是把状态空间模型(SSM)的建模对象从通常的序列位置转向网络深度方向的层输出。作者认为,既有层聚合方法主要采用离散状态视角,在网络层数增大时存在适用性限制;S6LA 则尝试以序列框架结合传统 CNN 或 transformer 架构。这里的“序列”主要对应层间信息演化,不能直接等同于输入信号的时间序列。连续状态的具体参数化、不同层特征的维度对齐、选择性机制及训练方式均需全文核对。 作者报告,S6LA 在图像分类与检测任务中带来显著改进,但摘要未提供数据集、划分、对照基线、指标或具体数值,因此无法判断改进幅度、计算代价及其对网络深度的依赖。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型存在跨层特征复用不足的问题,可考虑复用 S6LA 的沿深度聚合思路,而非直接把它当作 EEG 时间建模模块。该迁移假设依赖可组织为层序列的中间表示,需要改造不同层的通道数、时间分辨率与特征对齐方式;低信噪比可能使聚合传播噪声,跨被试差异和小数据也可能使选择性机制过拟合。一个可检验的小实验是在固定 EEG 骨干和 Cross-subject 划分下,比较原模型、简单层聚合与 S6LA,并同时记录任务指标、参数量及推理开销。上述仅为验证建议,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 S6LA 如何将沿网络深度的层间聚合建模为状态演化,以及其相对既有层聚合方法的收益与开销;摘要支持视觉任务中的作者报告,尚不能据此确认 EEG 适用性。

来源:OpenReview · State space models · openreview.net