跳到正文
OpenReview · State space models· Anas Barakat; Ilyas Fatkhullin; Niao He·· 2023-04-25精选AI 评分80

一般效用强化学习:更简单的方差缩减与大规模状态—动作空间

Reinforcement Learning with General Utilities: Simpler Variance Reduction and Large State-Action Space

AI 导读

基于摘要分析。本文研究一般效用强化学习(RL):优化状态—动作占用度量的函数,而不局限于标准累积奖励目标。作者提出单循环、无参数的归一化策略梯度算法,并通过占用度量的线性函数近似处理大型有限状态—动作空间。 一般效用框架涵盖约束 RL、纯探索和从示范中学习等问题。算法采用递归动量方差缩减机制;作者报告,在适当假设下,达到 ε 一阶驻点与 ε 全局最优性的样本复杂度分别为 Õ(ε⁻³) 和 Õ(ε⁻²)。两者对应不同的理论目标,不能直接视为同一评估协议下的性能比较;摘要未说明各自所需假设,也未展开“无参数”的具体含义。 针对大型有限状态—动作空间,作者以线性函数近似表示占用度量,并为带线性回归子程序的简单策略梯度方法给出 Õ(ε⁻⁴) 的样本复杂度。摘要未提供实验任务、对照基线或实测结果;理论假设、近似误差的处理、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 BCI 自适应策略能够表述为带安全或探索约束的序贯决策问题,占用度量上的一般效用目标可能提供建模工具,但本文并非 EEG 解码或 BCI 验证研究。可复用部分是目标表述与方差缩减思路,需另行构建状态、动作、效用及占用度量特征;低信噪比、部分可观测性、跨被试非平稳性和有限交互数据可能使理论条件难以满足。已有 EEG 相关工作尚未检索确认,目前不足以据此提出具体 BCI 复现实验。

阅读价值

值得关注其以递归动量方差缩减简化一般效用 RL 优化的理论路径,以及占用度量线性近似下的样本复杂度;这些保证依赖的具体假设和面向 BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net