跳到正文
OpenReview · Representation learning· Tonghe Zhang; Chao Yu; Sichang Su; Yu Wang·· 2025-05-11精选AI 评分80

ReinFlow:使用在线强化学习微调 Flow Matching 策略

ReinFlow: Fine-tuning Flow Matching Policy with Online Reinforcement Learning

AI 导读

基于摘要分析。ReinFlow 面向连续机器人控制,研究如何以在线强化学习稳定微调 Flow Matching 策略。其核心贡献是在策略的确定性流路径中注入可学习噪声,将其转化为离散时间 Markov Process,以便精确计算似然并支持探索与策略优化;研究对象并非 EEG 解码或 BCI。 机制上,该框架适配 Rectified Flow 和 Shortcut Models,强调在很少、甚至单个去噪步骤下进行稳定微调。摘要称方法源自强化学习理论,但具体优化目标、噪声参数化、训练约束及理论成立条件尚未验证。 作者报告,在具有挑战性的腿式运动任务中,Rectified Flow 策略微调后的回合奖励平均净增长为 135.36%;相较扩散策略强化学习微调方法 DPPO,减少了去噪步骤,并节省 82.63% 的实际运行时间。作者另报告,在基于状态及视觉输入的操作任务中,Shortcut Model 策略采用四步或单步去噪进行微调,成功率平均净增长为 40.34%;性能与微调后的 DDIM 策略相当,平均节省 23.20% 的计算时间。上述增长不能改写为成功率百分点提升;具体任务、聚合方式、对照配置、硬件、消融及统计信息尚未验证。摘要还涉及视觉输入、稀疏奖励的长时程规划任务,并声明项目网站提供代码、模型及检查点,资源完整性尚未核验。 平台推测(待验证):若用于 BCI 驱动的连续辅助控制,可复用的是生成式动作策略及其随机化在线微调机制,而非 EEG 特征提取器。其依赖可交互环境与奖励反馈;迁移时需改造神经信号条件编码、动作接口和安全约束。EEG 低信噪比、跨被试或通道变化可能使状态估计不稳定,小数据及有限交互预算也可能放大探索风险。一个可证伪的小实验是在离线 EEG 驱动的仿真控制中,固定条件编码器与交互预算,对比冻结策略和 ReinFlow 微调策略,检查少步推理下的任务回报及控制稳定性。原领域效果不等于 BCI 有效,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过可学习噪声将确定性 flow policy 转为可计算似然的随机策略、支持少步在线强化学习微调的机制,但其对 EEG/BCI 闭环控制的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net