跳到正文
OpenReview · State space models· Ted Moskovitz; Samo Hromadka; Ahmed Touati; Diana L Borsa; Maneesh Sahani·· 2023-09-22精选AI 评分79

用于递减奖励的状态表征

A State Representation for Diminishing Rewards

AI 导读

基于摘要分析。本文研究多任务强化学习中奖励边际效用递减时的策略评估问题,提出 λ representation(λR)状态表征,以刻画奖励价值随任务进程及刺激可用性、主观感受而变化的情形。研究对象是强化学习状态表征及其对自然觅食行为的解释,并非 EEG 解码或 BCI 方法。 传统 successor representation(SR)将给定策略下预期折扣累积状态占用与具体奖励函数解耦,从而支持对不同平稳奖励函数的快速策略评估。本文指出,现实中的连续任务往往并不独立,奖励优先级会发生变化,因此将边际效用递减纳入研究。作者报告,λR 在其研究设定下是策略评估所必需的表征,并可推广 SR 及文献中的若干其他状态表征;这一必要性结论的适用条件仍需查阅全文。 作者称建立了 λR 的形式性质,并考察其在机器学习中的规范性优势及研究自然行为、特别是觅食行为的用途。摘要未提供表征定义、更新规则、奖励递减的具体形式、实验任务、基线或定量结果,实验协议、消融及统计信息尚未验证。目前材料不足以建立其与 EEG/BCI 瓶颈的具体机制对应,不据此提出迁移有效性结论或复现实验建议。

阅读价值

值得阅读其对边际效用递减条件下策略评估的形式化处理,尤其是 λ representation 与 successor representation 的关系,但具体理论假设及实证支持尚待全文核对。

来源:OpenReview · State space models · openreview.net