用于递减奖励的状态表示
A State Representation for Diminishing Rewards
基于摘要分析。本文研究强化学习中边际效用递减条件下的策略评估,提出 λ representation(λR),以处理奖励刺激的可获得性及主观感知变化所对应的优先级转移。主要研究对象是多任务强化学习及自然觅食行为,而非 EEG 解码或 BCI。 在摘要描述的常见多任务强化学习设定中,智能体需要快速适应从固定分布中随机抽取的不同平稳奖励函数。successor representation(SR)将给定策略下预期折扣累积状态占用与具体奖励函数解耦,从而支持快速策略评估。本文针对的是这一设定与自然行为之间的差异:连续任务未必相互独立,奖励效用也可能随经历而递减。 作者报告,λR 是其所研究的边际效用递减设定下进行策略评估所需的表示,并可推广 SR 及文献中的若干其他状态表示。作者还报告建立了 λR 的形式化性质,考察其在机器学习语境下的规范性优势,以及研究自然行为、尤其是觅食行为的用途。摘要未给出 λ 的具体定义、表示更新规则、奖励递减形式及相应理论假设,因而不能据此将上述必要性结论扩展到所有非平稳奖励问题。 摘要未提供具体任务、数据、对照基线或量化结果;实验协议、消融及统计信息尚未验证。阅读全文时应重点核对 λR 的适用条件、与 SR 的具体包含关系,以及所述优势由理论分析还是实验结果支持。当前材料未建立与 EEG/BCI 的具体机制对应关系,不据此推断其具有神经信号建模或解码收益。
值得关注的是作者如何将边际效用递减纳入状态表示与策略评估,并建立 λ representation 与 successor representation 的关系;其形式化条件和适用边界仍需核对全文。
来源:OpenReview · State space models · openreview.net