循环记忆作为历史上的状态抽象
Recurrent Memory as State Abstraction Over History
基于摘要分析。本文研究非马尔可夫环境中强化学习的可处理性,以及既有环境类别之间的关系与选择依据。核心贡献是将智能体的循环记忆视为对观测—动作历史的时间扩展抽象,以有限状态机表示记忆函数,并据此定义和比较部分可观测马尔可夫决策过程(POMDP)的类别。 技术上,作者将传统 MDP 中的模型保持、最优动作价值 Q* 保持和最优策略 π* 保持等状态抽象原则推广到 POMDP。它们分别关注记忆表示应保留何种决策相关信息,而不是默认必须完整重建历史或环境状态。框架进一步纳入“软”(随机)抽象,讨论循环抽象与随机记忆的关系。 作者报告,该统一视角能够重新解释 regular decision processes、approximate information states 等既有类别,证明类别之间的新关系,并将这些类别推广到近似版本。摘要未给出具体定理条件、表达能力关系的方向、近似误差界或计算复杂度,因此尚不能据此判断某一类别在何种实际任务中更优;这些内容及实验协议、消融和统计信息尚未验证。 本文主要研究对象是强化学习中的记忆与状态抽象理论,并非 EEG 解码或 BCI 算法。其“应保留哪些历史信息”的问题可能与部分可观测的序列决策有关,但材料不足以建立具体 EEG 方法迁移路径;不能据此宣称已有 BCI 性能收益,相关 EEG 工作尚未检索确认。
值得关注其如何用有限状态机记忆与状态抽象统一不同 POMDP 类别,为比较记忆表示所保留的信息及表达能力提供理论框架,但其对 EEG/BCI 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net