跳到正文
OpenReview · State space models· Eshed Gal; Moshe Eliasof; Siddharth Rout; Eldad Haber·· 2025-09-18精选AI 评分76

PDE-SSM:面向 Diffusion Transformers 空间混合的谱域状态空间方法

PDE-SSM: A Spectral State Space Approach to Spatial Mixing in Diffusion Transformers

AI 导读

基于摘要分析。该研究针对视觉 Transformer 在生成建模中自注意力的二次计算成本与较弱空间归纳偏置,提出空间状态空间模块 PDE-SSM,以可学习的对流–扩散–反应偏微分方程替代注意力,并将其集成到 flow-matching 生成模型中,构建 PDE-SSM-DiT。 核心机制是通过具有物理动机的动力学描述空间信息流,而非直接执行所有 token 两两交互;在 Fourier 域求解 PDE,实现全局耦合。作者给出的复杂度为 O(N log N),但摘要未说明 N 的具体计数方式、边界条件、离散化方案及可学习系数的参数化形式,尚不能判断这些设计对表达能力和实际效率的影响。其主要方法价值在于将多维 PDE 算子作为具有空间先验的注意力替代模块,而非仅将一维 SSM 直接用于视觉序列。 作者报告,PDE-SSM-DiT 在其生成建模评估中达到或超过所比较的先进 Diffusion Transformers,同时显著降低计算量;摘要未提供数据集、指标、具体基线、训练预算或降幅,因此该结论的适用范围及公平对照条件尚未验证。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 空间表征能构成有意义的规则网格,该空间传播机制可能用于建模通道间关系;这是迁移假设,并非本文已证实的 BCI 效果。可复用部分是谱域 PDE 空间混合模块,需改造部分包括不规则电极布局映射、缺失通道处理及与时间建模模块的接口。规则网格假设、空间平滑可能削弱局部判别信号,低信噪比、跨被试电极差异及小数据也可能使可学习动力学不稳定。可检验的小实验是在固定 EEG 任务、数据划分与训练预算下,仅替换空间混合模块,与注意力模块比较任务指标、计算成本及通道扰动敏感性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以可学习对流–扩散–反应 PDE 替代空间注意力的机制及计算收益,但摘要中的生成性能结论和向 EEG 空间建模迁移的可行性尚未验证。

来源:OpenReview · State space models · openreview.net