跳到正文
OpenReview · State space models· Rushikesh Kamalapurkar; Lindsey Andrews; Patrick Walters; Warren E. Dixon·· 2017-01-01精选AI 评分75

面向无限时域近似最优跟踪的基于模型的强化学习

Model-Based Reinforcement Learning for Infinite-Horizon Approximate Optimal Tracking

AI 导读

基于摘要分析。本文研究漂移动力学未知的控制仿射连续时间非线性系统,提出无限时域最优跟踪问题的近似在线自适应求解方法;核心是结合基于模型的强化学习与并行学习(concurrent learning)系统辨识,在未探索状态区域评估 Bellman 误差,以模拟经验并放宽持续激励条件。 机制上,系统辨识器为模型驱动的经验生成提供支持,使学习不完全依赖系统实际访问的状态。作者报告,通过基于 Lyapunov 的稳定性分析,建立了对期望轨迹的跟踪保证,以及所构造策略向最优策略邻域收敛的结论;这里的邻域收敛不能等同于精确收敛至最优策略。作者还报告仿真展示了该方法的有效性,但摘要未给出仿真对象、对照方法、误差指标或定量结果。 复现时需核对系统辨识与策略更新的具体形式、模拟状态的选取规则、持续激励条件被放宽后的替代假设,以及稳定性结论的适用范围。实验协议、消融及统计信息尚未验证。 本文主要对象是非线性系统的最优跟踪控制,并非 EEG 解码或 BCI 验证。摘要没有提供神经信号观测到控制状态的具体对应关系,因此不据此推断 BCI 有效性;相关 EEG 工作尚未检索确认。

阅读价值

值得核对的是作者如何利用并行学习系统辨识器生成模拟经验、放宽持续激励条件,以及其轨迹跟踪与策略邻域收敛保证所依赖的假设。

来源:OpenReview · State space models · openreview.net