面向长时程操作的基于图的奖励学习与自动子任务发现
Graph-Based Reward Learning and Automatic Subtask Discovery for Long-Horizon Manipulation
基于摘要分析。本文研究如何从视觉演示中学习长时程机器人操作技能,以减少人工奖励设计与子任务标注的负担。作者提出基于图的逆强化学习(IRL)框架,从对象及其关系中学习具有语义基础的稠密奖励,用于衔接模仿学习(IL)与强化学习(RL)。 核心机制是将检测到的对象及其关系构成场景图,通过图神经网络编码,再以加权池化突出随任务执行而变化的相关实体。框架根据潜在空间中与目标的距离定义稠密奖励,而非直接依赖原始像素。摘要未提供对象检测方式、图关系定义、奖励学习目标或距离函数的具体形式。 作者报告,所学奖励随执行过程呈现可解释的阶段性结构,反映任务的语义进展,可作为无需人工分段识别子任务边界的信号。该框架既可为完整任务的直接 RL 提供奖励,也可在更复杂任务中支持子任务级策略学习;但具体边界提取方法及子任务策略训练流程尚未验证。 在多步操作任务实验中,作者报告该对象中心奖励相较像素表征和图表征基线改善了下游 RL 表现,并在长时程任务中产生具有语义意义的奖励转换。摘要未给出任务名称、数据规模、划分协议、评估指标、提升幅度或统计不确定性,不能据此判断改善幅度及跨视觉变化的泛化程度;实验协议、消融及统计信息尚未验证。 复现时需核对场景图构建、目标表征、奖励训练与策略训练的数据使用方式,以及阶段转换和人工语义边界的一致性。本文主要研究对象是机器人操作,并非 EEG 解码或 BCI;材料未建立与神经信号任务的具体机制对应,因此不将其结果外推为 BCI 有效性证据。已有 EEG 相关工作尚未检索确认。
值得核对其对象关系图、任务相关实体加权池化与潜在空间奖励如何共同产生可解释的阶段转换,以及这些转换能否稳定支持无需人工分段的子任务发现。
来源:OpenReview · Representation learning · openreview.net