跳到正文
OpenReview · State space models·· 2023-06-02精选AI 评分71

在平移不变的目标导向强化学习任务中将状态可达性学习为图

Learning State Reachability as a Graph in Translation Invariant Goal-based Reinforcement Learning Tasks

AI 导读

基于摘要分析。本文研究目标导向强化学习中需要长动作序列的复杂导航问题,提出将抽象目标之间的可达性编码为图,并在目标空间中规划,以复用已学得的局部目标到达技能。 核心机制是把全局规划与局部策略执行连接起来:图描述抽象目标之间的可达关系,目标间转移由已学习的策略实现。作者将该策略的一项性质称为“平移不变的局部最优性”(translation invariant local optimality),用于表达局部目标到达技能可在状态空间不同位置复用的直觉。其具体数学定义、目标抽象方式、图的学习与更新规则,以及策略训练目标尚未验证。本文主要对象是导航强化学习,不能仅由来源分类将其视为状态空间序列模型研究。 作者报告,该方法能够解决大规模、困难的导航任务,并优于相关文献方法;摘要未提供环境名称、对照方法、评估指标或具体数值,因此尚不能判断优势幅度与适用边界。实验协议、消融及统计信息尚未验证,复现还需核对状态与目标表示、局部技能训练、规划过程,以及平移不变性成立的环境条件。 平台推测(待验证):若 BCI 控制任务具有可重复的局部控制技能和明确的目标状态,例如光标或机器人导航,可探索复用“局部策略+可达性图”的规划机制;这是假设,不是已证实的 EEG/BCI 效果。可复用模块是目标图与规划框架,需改造的是神经信号到控制动作的接口及受噪声影响的可达性估计。低信噪比、跨被试差异、通道变化和小数据可能使局部技能不稳定,并破坏技能跨位置复用的前提。一个可检验的小实验是在固定解码器与相同交互预算下,对比局部策略直接执行和加入可达性图规划后的远距离目标成功率,再检验输入噪声增加时优势是否保留。相关 EEG 工作尚未检索确认。

阅读价值

值得核对的是以目标可达性图连接局部控制与全局规划的机制,以及“平移不变的局部最优性”成立所需的条件;摘要中的导航优势尚需结合完整实验协议验证。

来源:OpenReview · State space models · openreview.net