用于空间归纳偏置的二维状态空间层
A 2-Dimensional State Space Layer for Spatial Inductive Bias
基于摘要分析。该研究面向计算机视觉,旨在为模型引入适当的二维空间归纳偏置,包括二维位置感知、动态空间局部性,以及平移与置换不变性。作者基于多维 State Space Model(SSM)的一个表达能力较强的变体,提出二维状态空间层,并引入高效参数化、加速计算及适配的归一化方案。 机制与集成:该层可置于 Vision Transformers(ViT)的每个 transformer block 开头,也可替换 ConvNeXT 的 Conv2D 滤波器。其主要贡献是以空间建模层增强现有视觉骨干,而非提出 EEG 解码方法。摘要未提供状态更新方程、归一化形式、具体计算复杂度,以及各项不变性的定义与成立条件,尚需全文核对。 结果:作者报告,在多个视觉骨干和多个数据集上,上述集成方式显著提升了性能,额外参数量和推理时间开销很小;摘要未列出数据集、评价指标、数值及比较协议。作者还报告,消融与可视化支持该层具有较强二维归纳偏置,其中加入该层的 ViT 即使不使用位置编码仍能取得有效表现。实验协议、消融细节及统计信息尚未验证。摘要称代码作为补充材料提供,其可获取性及复现配置尚未验证。 平台推测(待验证):迁移假设是,若 EEG 被表示为具有明确空间邻接关系的头皮二维网格,该层可能用于建模电极间空间关系。可复用模块是二维 SSM 层,需改造电极坐标映射、缺失通道处理及与时间建模模块的接口。原方法依赖二维视觉结构,训练监督与数据规模未在摘要中说明;EEG 的不规则电极分布、低信噪比、跨被试差异和小数据可能使图像中的局部性及平移不变性假设失效。一个可检验的小实验是在固定通道布局和相同 Cross-subject 划分下,对照原解码器与仅加入该层的版本,并比较真实电极布局与打乱布局,检验收益是否来自空间结构。已有 EEG 相关工作尚未检索确认。
该研究提供了向 ViT 和 ConvNeXT 引入二维空间归纳偏置的 SSM 层,值得核对其计算开销、无位置编码实验及空间机制,但其对 EEG/BCI 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net