用于长程时空建模的卷积状态空间模型
Convolutional State Space Models for Long-Range Spatiotemporal Modeling
基于摘要分析。本文研究长时空序列中复杂空间相关性与长程时间依赖的联合建模,提出卷积状态空间模型 ConvSSM,并形成高效变体 ConvS5;原研究对象是时空序列预测,而非 EEG 或 BCI。 核心机制是结合 ConvLSTM 的张量状态建模与 S4、S5 等状态空间方法的长序列建模思路。作者将并行扫描用于卷积递推,以实现次二次复杂度的并行计算和快速自回归生成,并建立 ConvSSM 动力学与 SSM 的等价关系,据此设计面向长程依赖的参数化及初始化策略。其针对的对照瓶颈分别是 ConvLSTM 的顺序计算,以及 Transformer 注意力成本随序列长度二次增长;具体状态结构、参数化形式和训练目标尚未验证。 作者报告,在长预测跨度的 Moving-MNIST 实验中,ConvS5 的表现显著优于 Transformers 和 ConvLSTM,训练速度为 ConvLSTM 的 3 倍,样本生成速度为 Transformers 的 400 倍;这些倍数仅对应摘要所述实验,序列长度、硬件、批量大小及具体计时口径尚未验证。作者还报告,在 DMLab、Minecraft 和 Habitat 预测基准上,其性能达到或超过所比较的先进方法,但摘要未提供具体指标及数值。实验协议、数据划分、消融及统计信息尚未验证,代码与复现配置亦需核对全文。 平台推测(待验证):假设 EEG 可被组织为具有合理空间邻接关系的多通道时间序列,卷积空间建模与状态空间长程递推可能对应多通道相关性和长时窗计算成本两个瓶颈。并行扫描及长程初始化思路可能复用,但输入表示、空间卷积和任务输出需适配电极布局与 EEG 监督方式;原任务的数据规模及监督细节尚未验证。低信噪比、跨被试分布差异、通道布局变化及小数据可能使视觉预测中的优势无法迁移。可在固定 EEG 数据划分与训练预算下,用同一空间前端比较 ConvS5 与非卷积 SSM 的长时窗任务性能、训练和推理耗时,检验卷积状态是否带来稳定增益。已有 EEG 相关工作尚未检索确认。
值得阅读其将卷积递推转化为可并行扫描的机制及长程依赖参数化策略,但作者报告的预测性能与速度优势仍需结合全文实验协议核对,EEG 迁移价值尚未验证。
来源:OpenReview · State space models · openreview.net