跳到正文
OpenReview · State space models·· 25 天前精选AI 评分81

解耦受控微分方程中的时间与空间以实现精确的交互阶数分解

Decoupling Time and Space in Controlled Differential Equations for Exact Interaction-Order Decomposition

AI 导读

基于摘要分析。本文研究长序列建模中对角状态转移的计算效率与跨通道交互表达能力之间的矛盾,提出 Tensor-Decoupled CDE(TD-CDE),将时间更新与空间混合解耦,并提供按交互阶数及特征词分解预测的理论框架。原论文研究对象是通用序列建模,并非 EEG 或 BCI。 机制上,时间演化采用依赖数据的对角衰减,以支持高效并行扫描;跨通道交互沿深度维度通过 Tensor Train(TT)分解建模,提取高阶 signature-type 特征,避免参数量随交互阶数指数增长。模型使用原始输入进行门控,并避免归一化;作者将这一设计与因果性及精确的加性可解释性联系起来,具体成立条件尚需正文核对。 理论上,作者称证明了具有交换生成元的模型(包括对角 SSMs)只能实现 shuffle 子代数,无论宽度如何都无法表达 Lévy area 等交互;TD-CDE 的分级状态则可按交互阶数和特征词精确分解预测。摘要还提出选择性离散化的 order contract,但其定义、假设与误差界尚未验证。 作者报告,TD-CDE 在路径依赖的合成任务上捕获了 Mamba 等模型难以处理的跨通道动态。在 UEA archive 中,仅针对其 order profiler 在训练前判定为高阶的数据集,作者报告达到最先进的 Accuracy,参数量最多减少两个数量级;低阶数据集未显示优势。具体数据集、划分、对照配置、分数与统计信息尚未验证。作者还报告,高阶离散化在严重序列降采样下保持预测和精确归因稳定,而标准端点近似失效;降采样程度及评估协议需核对全文。 平台推测(待验证):若 EEG 任务确实依赖跨通道路径顺序与高阶交互,时间衰减、TT 空间混合及分阶归因可能具有复用价值,但需改造通道编码和采样处理,并核对监督信号、数据规模及归因含义。低信噪比、跨被试变化、通道缺失和小样本可能使高阶特征不稳定。一个可证伪的小实验是在固定被试内划分与训练预算下,对照 TD-CDE、对角 SSM 及低阶截断版本,检验测试序列降采样后 Accuracy 与归因稳定性是否更好。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其交换生成元的表达能力限制、按交互阶数精确分解的理论条件,以及高阶离散化在序列降采样下保持预测与归因稳定性的实验依据;这些是评估其能否用于多通道 EEG 建模的具体切入点,但 BCI 有效性尚未验证。

来源:OpenReview · State space models · openreview.net