跳到正文
OpenReview · State space models· Ted Moskovitz; Samo Hromadka; Ahmed Touati; Diana Borsa; Maneesh Sahani·· 2023-01-01精选AI 评分78

面向递减奖励的状态表征

A State Representation for Diminishing Rewards

AI 导读

基于摘要分析。本文研究多任务强化学习中边际效用递减对策略评估的影响,提出 λ representation(λR),以刻画奖励刺激的可用性与主观感知变化所带来的任务优先级转移。主要研究对象是强化学习状态表征及其与自然行为、尤其觅食行为的联系,并非 EEG 解码或 BCI 算法。 在摘要描述的常见多任务 RL 设定中,各任务的平稳奖励函数从固定分布中随机抽取。successor representation(SR)将给定策略下的期望折扣累积状态占用量与具体奖励函数解耦,从而支持快速策略评估。本文关注这一设定与现实连续任务之间的差异:后续任务的价值可能随此前获得的奖励而变化,不能简单视为相互独立的任务。 作者报告,λR 是其所研究的边际效用递减设定下进行策略评估所必需的表征,并推广了 SR 及文献中的若干其他状态表征。作者还称建立了 λR 的形式性质,考察了其在机器学习中的规范性优势及研究觅食等自然行为的用途。摘要未提供 λR 的具体定义、递减奖励的数学形式、推导条件或实验结果,因此上述必要性结论的适用范围、实验协议、消融及统计信息尚未验证。 材料没有给出神经信号输入、BCI 任务或可直接对应的解码机制,不宜将这一强化学习表征贡献改写为已证实的 BCI 方法;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是作者以边际效用递减重新审视 successor representation 的策略评估前提,并提出统一多种状态表征的 λ representation;其形式性质与适用边界需结合全文核对,尚不能据此判断 BCI 应用价值。

来源:OpenReview · State space models · openreview.net