跳到正文
OpenReview · State space models·· 29 天前精选AI 评分78

用于目标条件强化学习的世界模型策略仲裁器

World-Model Policy Arbiter for Goal-Conditioned Reinforcement Learning

AI 导读

基于摘要分析。该研究面向离线目标条件强化学习(GCRL),研究如何在不同状态下组合已有策略,而不是为整个任务固定使用单一策略。作者提出 World-Model Policy Arbiter(WMPA):在学习得到的状态空间世界模型中分别推演冻结策略,以共享的目标条件价值函数评价预测未来,再选择策略执行一段短时承诺区间后重新仲裁。 核心机制是绕开各策略自身价值函数尺度不一致、甚至没有价值函数的问题,改用统一评价器比较策略可能到达的状态;短时承诺区间则用于限制过于频繁的策略切换。该框架依赖一个冻结的目标条件策略库,作者称无需重新训练这些策略,也不需要任务特定的特权知识;这不意味着世界模型与共享价值函数无需训练,其训练数据、监督方式及具体实现尚未验证。 作者报告,在覆盖迷宫导航及 cube、scene、puzzle 操作的 18 个状态输入数据集上,按官方 OGBench 评估协议,WMPA 将宏平均成功率从“每个数据集选取表现最佳单一策略”基线的 44% 提升至 58%,并在 12 个数据集上取得统计显著增益;其中 cube-double-play 和 scene-play 的成功率分别增加 33 和 36 个百分点。具体数据划分、策略库组成、显著性检验、消融及统计信息尚未验证。 复现时需核对世界模型的多步预测误差、共享价值函数的校准、推演范围与承诺区间,以及多策略推演带来的推理延迟。原研究对象是状态输入的目标条件控制,并非 EEG 解码或 BCI;摘要没有提供神经信号输入或 BCI 验证,不能据此认定其收益可直接迁移。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何以共享价值函数比较异质冻结策略,并通过短时承诺减少切换不稳定;作者报告了 OGBench 上的组合策略收益,但世界模型误差与仲裁开销尚需全文验证。

来源:OpenReview · State space models · openreview.net