跳到正文
OpenReview · State space models· Xuantang Xiong; Linghui Meng; Jingqing Ruan; Qingyang Zhang; Guoqi Li; Dengpeng Xing; Bo Xu·· 2023-01-01精选AI 评分72

多环境离线强化学习中的任务提示通用世界模型

Task-Prompt Generalised World Model in Multi-Environment Offline Reinforcement Learning

AI 导读

基于摘要分析。该研究面向多环境离线强化学习,探讨能否利用大规模、多样化的历史轨迹学习通用世界模型,并将其作为不同任务策略学习的代理。作者提出 Task-prompt Generalised World Model(TGW),通过任务提示为共享世界模型提供任务特定信息,减少各任务从头建模的需求。 机制方面,TGW 包含 task-state prompter、generalised dynamics module 和 reward module 三个模块。通用动力学模块采用基于 Transformer 的循环状态空间模型,提示用于提供任务特定指令;作者将这一设计与处理通用世界模型的内部随机性联系起来。摘要未给出提示的具体表示、状态与动作编码、损失函数、训练流程,以及世界模型如何参与策略优化,因此这些实现细节尚未验证。 评估方面,作者报告 TGW 在 MuJoCo 控制基准的多环境设置下显著优于此前的离线强化学习算法。摘要未提供具体任务、轨迹规模、环境划分、对照算法名称、指标数值或统计检验;实验协议、消融及统计信息尚未验证,尤其需核对其泛化评估涉及已见环境中的新任务,还是未见环境。 平台推测(待验证):若 BCI 闭环控制具有可用的历史状态—动作—反馈轨迹,任务提示与共享动力学的组合可能为不同控制任务提供条件化建模思路。这是假设,而非已证实的 EEG 解码效果。可复用的是任务条件化和动力学建模框架;需改造的是 EEG 状态表示、控制动作定义与奖励反馈。低信噪比、跨被试差异、通道变化及小样本可能使动力学估计不稳定,历史轨迹的动作覆盖不足也可能限制离线策略学习。一个可检验的小实验是在具备上述轨迹的单一 BCI 控制场景中,固定数据划分与策略学习流程,对比带任务提示和不带提示的共享世界模型,检验其对留出任务的动力学预测与控制表现是否改善。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是 TGW 将任务提示与通用动力学建模结合、支持多环境离线策略学习的机制;其 MuJoCo 优势目前仅有摘要中的作者报告,不能据此认定 EEG/BCI 迁移有效。

来源:OpenReview · State space models · openreview.net