跳到正文
OpenReview · State space models· Rushikesh Kamalapurkar; Lindsey Andrews; Patrick Walters; Warren E. Dixon·· 2015-01-01精选AI 评分77

用于无限时域近似最优跟踪的基于模型的强化学习

Model-based reinforcement learning for infinite-horizon approximate optimal tracking

AI 导读

基于摘要分析。本文研究漂移动力学未知的控制仿射连续时间非线性系统,提出无限时域最优轨迹跟踪问题的近似在线自适应解法。核心贡献是通过基于模型的强化学习放宽持续激励条件,并为轨迹跟踪与策略收敛提供稳定性分析。 机制上,方法使用基于 concurrent learning(并发学习)的系统辨识器,通过在尚未探索的状态空间区域评估 Bellman error 来模拟经验,使学习不完全依赖实际轨迹所提供的激励。摘要未给出辨识器结构、策略表示、优化目标的具体形式或状态空间采样方式,这些实现细节尚未验证。 作者报告,基于 Lyapunov 的稳定性分析确立了期望轨迹的跟踪性质,以及所构造策略向最优策略邻域的收敛;这不应解读为策略精确收敛到最优解。作者报告仿真结果展示了方法的有效性,但摘要未提供仿真系统、对照方法、性能指标或数值结果,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 BCI 闭环控制对象可近似为控制仿射连续时间系统,并能获得足够可靠的状态观测和动力学辨识数据,该机制可能用于缓解在线探索受限的问题,而非直接作为 EEG 解码算法。可复用的是系统辨识与模拟经验评估思路;需改造的是神经信号到控制状态的映射及控制对象模型。低信噪比、跨被试差异、通道变化和小数据可能使辨识误差扩大,降低模拟经验的可信度。一个可检验的小实验是在满足上述系统假设的仿真闭环中固定真实交互预算,比较加入与不加入模拟经验时的跟踪误差,并逐步增加观测噪声与模型失配,检查收益是否消失。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其利用系统辨识在未探索状态空间中评估 Bellman error、放宽持续激励条件的机制,以及轨迹跟踪和策略近似收敛的稳定性论证;其对 BCI 闭环控制的适用性尚未验证。

来源:OpenReview · State space models · openreview.net