跳到正文
OpenReview · State space models· Shuyuan Zhang; Zihan Wang; Xiao-Wen Chang; Doina Precup·· 2026-09-09精选AI 评分71

从连通性到奖励:基于有向状态图的稠密奖励学习

From Connectivity to Rewards: Dense Reward Learning with Directed State Graphs

AI 导读

该研究针对目标条件分层强化学习(GCHRL)中图结构的连通性信息利用不足问题,提出 Graph-Guided Quasimetric Dense Reward(G2QDR),将状态间非对称连通性强度转换为辅助稠密奖励,为多个层级的策略学习提供持续引导。基于摘要分析,尚未取得论文全文。 核心机制是把图从子目标的随机采样工具转为描述环境连通性与状态可达性的模型:探索过程生成有向状态图,神经网络据此学习预测成对状态的连通性强度,再将预测值转为标量辅助奖励。其主要研究对象是状态转移具有方向不对称性的准度量环境,而非神经信号建模。相较于仅借助图采样子目标的方法,该框架强调利用图的内在拓扑信息。 作者报告,该框架在理论上可整合进任意现有 GCHRL 架构,并在多种稀疏奖励环境中总体改善基线方法,计算开销处于作者认为可接受的范围。摘要未提供环境名称、基线配置、具体指标或开销数值,不能据此判断提升幅度、稳定性或跨任务一致性。连通性监督目标、奖励转换方式、各层级奖励的组合规则、理论成立条件,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):若交互式 BCI 任务能够表述为具有方向性转移约束的目标达成过程,可考虑复用“有向可达性估计—辅助奖励”机制,以缓解任务反馈稀疏问题;这不等于已验证的 EEG 解码收益。需将原始神经信号转换为可用于构图的稳定状态,并核对探索数据规模与连通性监督来源。低信噪比、跨被试状态偏移及小数据可能使图连边失真,进而放大奖励偏差。可先在固定解码器的交互任务模拟中,对照原始稀疏奖励、G2QDR 与方向打乱的图奖励,在相同交互预算下检验任务成功率及噪声敏感性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何将有向状态图中的非对称可达性转为分层策略可用的稠密奖励,以及这种奖励能否在不扭曲原任务目标的前提下改善稀疏奖励学习;摘要尚不足以验证收益幅度与适用边界。

来源:OpenReview · State space models · openreview.net