连接离散与连续状态空间:探索连续时间扩散模型中的 Ehrenfest 过程
Bridging discrete and continuous state spaces: Exploring the Ehrenfest process in time-continuous diffusion models
基于摘要分析。本文研究离散状态空间上的连续时间 Markov 跳跃过程与由随机微分方程(SDE)描述的连续状态扩散过程之间的对应关系,核心贡献是借助 Ehrenfest process 及其时间反演,连接两类生成建模框架,并提出基于条件期望的反向跳跃过程训练算法。 理论机制方面,作者重新考察了在无限状态空间极限下收敛至 Ornstein–Uhlenbeck process 的 Ehrenfest process,并报告其时间反演也收敛至时间反演的 Ornstein–Uhlenbeck process。这一对应关系为离散与连续状态空间之间迁移训练方法提供了依据,包括作者所述可改善收敛的损失函数;具体损失形式、极限成立条件及收敛度量尚未验证。 训练方面,作者提出利用条件期望训练 Markov 跳跃过程的时间反演,并将其直接关联到 denoising score matching。摘要称通过多项数值实验展示了方法,但未提供任务、数据集、状态空间规模、对照基线或量化结果,因此无法据此判断改进幅度或适用范围;实验协议、消融及统计信息尚未验证。 本文的主要对象是随机过程生成建模,而非 EEG 或 BCI。摘要未提供神经信号任务或明确的迁移验证,不能将其理论对应关系视为 BCI 有效性的证据;已有 EEG 相关工作尚未检索确认。
值得阅读之处在于作者建立了 Ehrenfest 过程及其时间反演与连续扩散的极限对应,并据此将离散跳跃过程的训练与 denoising score matching 联系起来;具体收敛条件与实验收益仍需全文核对。
来源:OpenReview · State space models · openreview.net