跳到正文
OpenReview · Representation learning· Pengyi Li; Jianye HAO; Hongyao Tang; YAN ZHENG; Xian Fu·· 2023-04-25精选AI 评分75

RACE:通过表示非对称性与协同进化改进多智能体强化学习

RACE: Improve Multi-Agent Reinforcement Learning with Representation Asymmetry and Collaborative Evolution

AI 导读

基于摘要分析。该研究针对多智能体强化学习(MARL)中奖励信号质量低、环境非平稳性高的问题,提出结合进化算法(EA)与 MARL 的 RACE 框架,主要研究对象是多智能体协作策略学习,而非 EEG 解码或 BCI。 RACE 同时维护一个 MARL 团队和一个由多个 EA 团队组成的种群。对于不同团队中控制同一智能体的策略,框架将其分解为共享的非线性观测表示编码器和各自独立的线性策略表示,以促进知识共享与策略探索。针对部分可观测问题,作者引入 Value-Aware Mutual Information Maximization,使共享表示包含与更优全局状态有关的有用信息;摘要未给出该目标的数学形式或训练时所需全局信息的具体条件。 EA 通过智能体级交叉与变异算子演化种群,为 MARL 提供多样化经验;MARL 则优化自身策略,并将策略注入种群,形成双向协作。作者报告,在具有挑战性的连续与离散任务上,RACE 显著改进基础算法,并持续优于其他算法。但摘要未列出任务名称、对照方法、指标、运行次数或数值结果,实验协议、消融及统计信息尚未验证。摘要提供了代码地址,代码可运行性和复现条件尚未核验。 平台推测(待验证):若用于具有明确多智能体交互、奖励反馈和仿真环境的 BCI 闭环控制,共享表示与独立策略的分解可能用于跨策略经验复用;这不等同于已验证的 EEG 解码收益。迁移需改造观测编码器、动作空间及奖励定义,并确认训练阶段能否获得互信息目标所需的全局信息。低信噪比、跨被试差异和有限交互数据可能削弱共享表示及种群搜索的效果。一个可检验的小实验是在固定 EEG 反馈仿真环境与相同交互预算下,对比基础 MARL、RACE 及移除互信息目标的版本,评估控制回报与训练稳定性。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其共享观测编码器与独立线性策略表示如何支撑 MARL 和 EA 间的知识交换,以及价值感知互信息目标在部分可观测环境中的贡献;摘要所述优势仍需结合具体协议与消融验证。

来源:OpenReview · Representation learning · openreview.net