跳到正文
OpenReview · Representation learning· Pengyi Li; Jianye Hao; Hongyao Tang; Yan Zheng; Xian Fu·· 2023-01-01精选AI 评分74

RACE:通过表征非对称性与协同进化改进多智能体强化学习

RACE: Improve Multi-Agent Reinforcement Learning with Representation Asymmetry and Collaborative Evolution

AI 导读

基于摘要分析。该研究针对多智能体强化学习(MARL)中奖励信号质量低、环境非平稳性强等协作学习难题,提出结合进化算法(EA)与 MARL 的混合框架 RACE,通过共享表征、策略进化和双向知识交换改善协作策略学习。 RACE 同时维护一个 MARL 团队和一个由多个 EA 团队组成的种群。对于不同团队中控制同一智能体的策略,框架将其分解为共享的非线性观测表征编码器与各自独立的线性策略表征,以支持知识共享和策略探索。针对部分可观测问题,作者引入 Value-Aware Mutual Information Maximization,使共享表征包含与优质全局状态有关的有用信息;摘要未给出该目标的具体形式及训练时所需的全局信息。 进化过程采用智能体级交叉与变异算子,为 MARL 提供多样化经验;MARL 则优化自身策略,并将策略注入种群,形成相互促进的学习循环。其核心方法特征是将共享的非线性观测编码与独立的线性策略相结合,并联通梯度优化和种群进化,而非仅将两类算法并列使用。 作者报告,在具有挑战性的连续与离散任务上,RACE 显著改善了所结合的基础算法,并持续优于其他比较算法。摘要未列出任务名称、指标、具体数值、比较基线或评估协议,因此尚不能判断收益幅度与适用边界;实验协议、消融及统计信息尚未验证。摘要提供了代码仓库地址,但代码可运行性与复现条件尚未核验。 本文的主要研究对象是多智能体协作策略学习,并非 EEG 表征学习或 BCI 解码;现有材料未提供神经信号任务验证,不能据此推断 BCI 有效性。相关 EEG 工作尚未检索确认。

阅读价值

值得关注的是其以共享观测编码器和独立线性策略连接 MARL 与进化种群的知识交换机制,具体性能增益及各模块贡献仍需核对全文实验。

来源:OpenReview · Representation learning · openreview.net