跳到正文
OpenReview · State space models· Dongyeop Woo; Minsu Kim; Minkyu Kim; Kiyoung Seong; Sungsoo Ahn·· 2025-09-19精选AI 评分77

基于能量的生成元匹配:面向通用状态空间的神经网络采样器

Energy-based generator matching: A neural sampler for general state space

AI 导读

基于摘要分析。本文研究在没有训练数据、仅有能量函数的条件下如何训练生成模型,提出 Energy-based generator matching(EGM),将 generator matching 扩展为适用于连续、离散及二者混合状态空间的训练方法。这里的 state space 指采样过程的状态空间,不能据此将其理解为用于序列建模的 State Space Model 架构。 核心机制是以自归一化重要性采样估计 generator matching 损失,并加入 bootstrapping 技巧,以降低重要性权重的方差。作者提出,该框架可训练不同类型的连续时间 Markov 过程,包括 diffusion、flow 和 jump。其统一性体现于采样动力学与状态空间类型,而非摘要已验证的神经信号建模能力。具体损失表达式、重要性采样的提议分布、bootstrapping 实现及训练网络尚未验证。 作者报告,在最高 100 维的离散任务和最高 20 维的多模态任务上验证了 EGM。摘要未提供任务名称、采样质量指标、对照基线、计算成本或统计结果,因此这些维度仅说明所报告的验证范围,不能据此判断性能优势或高维扩展性。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 建模问题已有可计算的能量函数,EGM 可能用于从该函数定义的分布中采样;这一假设依赖能量函数能够合理表达信号先验,而不是自动解决低信噪比、跨被试差异或小数据问题。可复用部分是损失估计与采样过程训练,需另行设计 EEG 状态表示和能量函数,并检查重要性权重在复杂分布下的稳定性。已有 EEG 相关工作尚未检索确认,当前材料不支持宣称 BCI 性能收益。

阅读价值

值得关注其以能量函数替代训练样本、统一训练不同连续时间 Markov 采样过程的机制,尤其是重要性权重的方差控制;采样质量及其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net