利用长期信息学习鲁棒表征以提升视觉强化学习的泛化能力
Learning Robust Representations with Long-Term Information for Generalization in Visual Reinforcement Learning
基于摘要分析。该研究面向视觉强化学习(VRL)在未见视觉干扰下的泛化问题,提出信息瓶颈(IB)框架下的鲁棒动作价值表征学习方法 ROUSER,旨在过滤无关视觉特征的同时保留序贯决策所需的长期信息。 其核心机制是最大化表征与动作价值之间的互信息,并最小化表征与状态—动作对之间的互信息,分别服务于长期决策信息保留和无关信息压缩。由于动作价值未知,作者提出将状态—动作对的鲁棒表征分解为单步奖励与后续状态—动作对的鲁棒表征,从而利用已知奖励计算表征学习损失。摘要未给出具体互信息估计器、损失形式及训练流程,相关实现尚未验证。 作者报告,学习到的鲁棒表征能够准确估计动作价值,并可用于多种 VRL 算法;在包含未见背景及颜色干扰的十二项任务中,ROUSER 在其中十一项上优于若干现有先进方法。该结果限于摘要所述视觉干扰评估,任务名称、数据划分、对照基线、指标、效应幅度、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 驱动的闭环决策任务具有连续交互轨迹、动作及可用奖励,其以长期回报筛选表征的机制可能有参考价值,但原论文并未验证 EEG 或 BCI。可复用的是动作价值导向的信息瓶颈目标,需改造的是信号编码器与奖励定义;低信噪比、跨被试变化、小样本和稀疏奖励可能使压缩过程丢弃微弱但有效的神经信息。一个可检验的小实验是在固定 EEG 闭环任务及被试划分下,对比基础决策模型与加入该表征目标的模型,检查干扰条件下的任务回报及无干扰条件下的性能损失。已有 EEG 相关工作尚未检索确认。
值得关注其以动作价值约束信息瓶颈、通过单步奖励与后续表征分解保留长期决策信息的机制,但具体实现与泛化收益仍需核对全文。
来源:OpenReview · Representation learning · openreview.net