利用信赖域自编码器缓解 MARL 中的表征漂移
Mitigating Representation Drift in MARL with Trust-region Autoencoders
基于摘要分析。本文研究视觉多智能体强化学习(MARL)中的样本效率问题,提出 Multi-agent Trust Region Variational Autoencoder(MA-TRVAE),通过信赖域内的更新正则化稳定潜在表征,并与 Multi-agent Policy Proximal Optimization(MAPPO)结合。 研究动机是:辅助表征学习能够提升学习效率,但对比学习等方法可能依赖相似度函数设计并增加架构复杂度;基于自编码器的重建方法较简单,却在 MARL 中探索不足。作者将不稳定的表征更新,即 representation drift,识别为限制样本效率与稳定性的关键问题,并以约束潜在表征更新为解决路径。摘要未给出信赖域的度量、约束对象、损失形式,以及表征学习与策略优化之间的具体训练流程。 在视觉多智能体控制任务中,作者报告,与 MAPPO 结合的 MA-TRVAE 改善了样本效率和稳定性,相较先进 MARL 方法具有竞争力且计算效率更高;作者还报告,增加智能体数量时性能仅轻微下降。摘要未提供任务名称、基线配置、性能指标、计算开销口径或智能体规模,因此尚不能量化这些收益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 表征编码器与下游决策模块联合更新,限制潜在表征变化可能缓解下游模块不断适应编码空间变化的问题,但这不同于已经验证的跨被试或跨会话鲁棒性。可借鉴的是表征更新约束,需改造的是面向 EEG 时序信号的编码器、重建目标与约束尺度;低信噪比可能使重建偏向伪迹,小数据下过强约束也可能阻碍有效适应。一个可证伪的小实验是在固定被试内数据划分下,对比同一 EEG 自编码器加入与不加入该约束时的表征漂移和下游分类表现,并控制训练步数与计算预算。已有 EEG 相关工作尚未检索确认。
值得核对其信赖域约束如何缓解辅助重建训练中的表征漂移,以及在 MAPPO 下样本效率、稳定性与计算开销的权衡;摘要尚不足以确认具体约束形式及其对 EEG 的适用性。
来源:OpenReview · Representation learning · openreview.net