跳到正文
OpenReview · State space models· Tijin Yan; Hengheng Gong; He YongPing; Yufeng Zhan; Yuanqing Xia·· 2024-05-02精选AI 评分79

基于可分解去噪扩散模型的概率时间序列建模

Probabilistic Time Series Modeling with Decomposable Denoising Diffusion Model

AI 导读

基于摘要分析。该研究面向通用概率时间序列建模,针对基于随机微分方程的生成模型在漂移与扩散系数设计及生成速度上的困难,提出可分解去噪扩散模型 D³M。作者称该框架统一了去噪扩散模型与连续流模型,并据此设计简单且高效的概率路径,用于时间序列插补与预测。 机制上,研究还提出结合特殊 state space model 与 linear gated attention 的序列模块,以保留归纳偏置并同时建模局部和全局依赖。摘要未披露概率路径的具体形式、统一框架的证明条件、状态空间结构、损失函数及训练流程,尚不能判断各模块对质量与效率的独立贡献。 作者报告,在 8 个真实世界数据集的插补任务上,相较所比较的先进方法,RMSE 和 CRPS 的相对降幅最高分别为 4.6% 和 4.3%;在预测任务上,仅用 10 步即可取得与所比较方法相当的结果。摘要未给出数据集名称、划分、具体基线、缺失模式、预测范围或运行时间,因此不能将步数直接等同于实际加速比;实验协议、消融及统计信息尚未验证。 平台推测(待验证):该方法的概率插补机制可能对应 EEG 通道丢失或片段缺失问题,局部与全局依赖建模也可能用于利用时间结构。但原研究并非 EEG/BCI 验证,其对多通道结构、缺失掩码和条件信息的支持尚需核对。可考虑复用生成框架与序列模块,并按 EEG 通道布局和采样尺度调整输入表示;低信噪比、跨被试差异及小数据训练可能导致生成结果过度平滑或改变任务相关波形。一个可检验的小实验是假设在固定被试内划分下,对留出 EEG 片段施加预先定义的通道或时间缺失,比较 D³M 与简单插补基线的重建误差及下游任务表现,同时记录推理耗时。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 D³M 统一去噪扩散与连续流的理论条件,以及概率路径和序列模块对插补质量与生成效率的各自贡献;其 EEG 适用性尚未验证。

来源:OpenReview · State space models · openreview.net