学习更粗粒度的马尔可夫状态抽象
Learning Coarser Markov State Abstractions
基于摘要分析。本文研究强化学习中的状态抽象:如何在保留决策相关信息的同时,避免表示保留过多观测转移规律。作者提出与 Markov state abstractions(MSAs)原始理论条件对齐的训练目标,以学习更粗粒度的抽象,并另加启发式推动表示趋向最小化。 核心机制是区分“满足 Markov 性的充分条件”与更强的 kinematic inseparability 条件。摘要指出,现有 MSA 目标的实现满足后者,因而产生过细的抽象,保留观测中的全部转移规律;本文试图让训练目标仅对齐原始 MSA 条件。这里的 reward-free 指这些充分条件不依赖奖励,并不意味着下游任务没有奖励。作者同时明确,新目标本身不能保证抽象的最小性,因此附加启发式不应被解读为最小性定理。 作者报告,在基于像素观测的实验域中,所学抽象能够恢复问题的底层复杂度,并改善下游表现。摘要未给出实验域名称、数据规模、对照方法、指标或提升幅度,目标的具体形式、启发式实现、实验协议、消融及统计信息尚未验证。 该研究的直接对象是强化学习状态表示,而非 EEG 解码或 BCI。摘要未提供神经信号上的机制验证或明确适配路径,因此目前不能据此推断其具有跨被试鲁棒性、抗噪能力或 BCI 性能收益;已有 EEG 相关工作尚未检索确认。
值得核对其如何将训练目标对齐 Markov state abstractions 的理论充分条件,从而减少过细的状态划分;摘要明确区分了 Markov 性保证与最小性启发式,但具体目标和实验收益尚待全文验证。
来源:OpenReview · State space models · openreview.net