强化学习中的奖励感知原型表征
Reward-Aware Proto-Representations in Reinforcement Learning
基于摘要分析。本文研究强化学习中如何构建同时反映环境转移与奖励动态的表征,围绕已有的 default representation(DR)补充理论基础与经验分析,而非提出 EEG 或 BCI 表征方法。 successor representation(SR)通过隐式编码环境诱导的转移动态,表征与信用分配相关的结构,但不考虑奖励。DR 则进一步纳入奖励动态。作者在表格型情形下推导了学习 DR 的动态规划与时序差分方法,刻画其向量空间的基,并通过 default features 将其形式化扩展到函数逼近情形。摘要未提供具体更新公式、奖励进入表征的数学形式或函数逼近实现。 实验覆盖奖励塑形、选项发现(option discovery)、探索和迁移学习。作者报告,相较于 SR,DR 产生了定性不同的奖励感知行为,并在若干设置中取得更好的定量表现;摘要未列出环境、基线配置、评估指标或改善幅度,不能据此认定其在所有任务中均优于 SR。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若用于具有状态转移与奖励反馈的自适应 BCI 控制,DR 的潜在对应点是序列决策中的信用分配与奖励相关状态抽象,而非直接改善 EEG 解码。该假设依赖可用的交互轨迹与奖励定义;可考虑复用表征学习及更新思路,但需改造状态编码与奖励接口。EEG 低信噪比、跨被试或跨会话漂移及有限交互数据可能使转移和奖励估计不稳定。尚未检索确认已有 EEG 相关工作,也没有本材料支持的 BCI 有效性证据。
值得关注的是作者为奖励感知的 default representation 补充动态规划、时序差分学习及函数逼近基础,并与 SR 比较其行为差异;具体收益及适用条件仍需全文核对。
来源:OpenReview · Representation learning · openreview.net