跳到正文
OpenReview · State space models· Na Li; Yuchen Jiao; Hangguan Shan; Shefeng Yan·· 2024-01-16精选AI 评分81

面向无模型强化学习的具有可证明内存效率的自博弈算法

Provable Memory Efficient Self-Play Algorithm for Model-free Reinforcement Learning

AI 导读

基于摘要分析。本文研究多智能体强化学习中的双人零和 Markov games,提出无模型自博弈算法 Memory-Efficient Nash Q-Learning(ME-Nash-QL),目标是在输出近似 Nash 策略的同时降低存储、采样与计算开销。主要贡献是理论复杂度保证,而非 EEG 解码或 BCI 实验结果。 在表格型双人零和 Markov games 设置下,作者报告证明 ME-Nash-QL 可输出 ε-近似 Nash 策略,空间复杂度为 O(SABH),样本复杂度为 Õ(H⁴SAB/ε²),计算复杂度为 O(T·poly(AB));其中 S 为状态数,A、B 分别为两名玩家的动作数,H 为时域长度,T 为样本数。摘要称算法保持 Markov 策略,但未提供具体更新规则、存储组织方式、探索机制或证明所需假设,这些均需核对全文。 作者报告,相较已有表格型算法,该方法具有更低的空间复杂度,并在保持 Markov 策略的算法中达到最低计算复杂度;在长时域条件 min{A,B} ≪ H² 下,其样本复杂度优于摘要所述既有保证。作者还报告 burn-in 成本为 O(SAB·poly(H)),而既有算法达到同等级样本复杂度需要至少 O(S³AB·poly(H))。这些比较的适用算法范围、隐藏对数因子、多项式项及证明条件尚未验证,不能据此推断普遍优势。 摘要未提供数据集、实证指标或研究实现信息,实验协议、消融及统计信息尚未验证。该研究依赖离散状态与动作、双人零和博弈及 Markov 决策结构;材料没有建立这些假设与 EEG/BCI 任务的具体对应关系,因此暂不生成迁移或复现实验建议。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 ME-Nash-QL 如何在表格型双人零和 Markov games 中同时控制存储、样本与计算复杂度并保持 Markov 策略,但摘要不足以确认其证明条件及对 BCI 的适用性。

来源:OpenReview · State space models · openreview.net