跳到正文
OpenReview · State space models· Jiuzhou Lin; junlong wu; Dewen Fan; Boheng Zhang; Fei Zuo; Huan Ouyang; Huaiqing Wang; Jia Sun; Jinge Li; Yuqing DING; Fan Yang; Houde Liu; Tingting Gao; Han Li·· 2026-01-23精选AI 评分75

用于高效扩散模型对齐的梯度空间进化策略

Gradient-Space Evolution Strategies for Efficient Diffusion Alignment

AI 导读

基于摘要分析。本文针对扩散模型强化学习对齐中的计算低效与训练不稳定问题,提出 Gradient-Space Evolution Strategies(GS-ES),将对齐重新表述为逐步进化过程,连接进化策略与强化学习。主要研究对象是 Text-to-Image 和 Text-to-Video 生成模型,而非 EEG 解码或 BCI。 机制方面,作者提出结构化动作空间采样与梯度空间进化之间的对偶关系,据此直接从扩散噪声估计稳定的参数更新方向。作者称该形式能够降低标准策略梯度的高方差,并免除维护参考模型的计算负担。摘要未提供对偶成立的具体条件、噪声采样与奖励组合方式、更新公式或损失形式,因此尚不能判断该机制在不同奖励和采样预算下的稳定性。 结果方面,作者报告在 Text-to-Image(Flux)和 Text-to-Video(Wan2.1)任务上,GS-ES 的训练效率与对齐质量优于标准 GRPO 基线。摘要未给出数据集、奖励定义、评估指标、数值、训练预算或对照配置;实验协议、消融及统计信息尚未验证。阅读全文时需核对效率是否计入奖励评估与采样开销,以及各方法是否在相同资源和奖励条件下比较。 平台推测(待验证):若 EEG 条件生成或重建任务采用扩散模型,且具有可重复计算的任务奖励,GS-ES 的更新方向估计机制可能用于其对齐训练;这不等于对 EEG 分类或 BCI 性能已有证据。可复用的候选模块是噪声驱动的更新估计,需改造条件输入与奖励定义;低信噪比、跨被试差异、通道变化和小数据可能使奖励波动增大。一个可证伪的小实验是在固定被试划分、相同扩散模型和采样预算下比较 GS-ES 与 GRPO,分别记录更新方差、计算开销及预先定义的重建指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 GS-ES 如何通过扩散噪声估计更新方向,以及相对 GRPO 的方差、参考模型开销和对齐质量对照,但摘要尚不足以验证其效率收益或 BCI 适用性。

来源:OpenReview · State space models · openreview.net