跳到正文
OpenReview · Representation learning· Connor Mattson; Anurag Aribandi; Daniel S. Brown·· 2024-12-31精选AI 评分71

基于人类反馈的表征对齐:从混合质量示范中进行跨具身奖励学习

Representation Alignment from Human Feedback for Cross-Embodiment Reward Learning from Mixed-Quality Demonstrations

AI 导读

基于摘要分析。本文研究跨具身逆强化学习:从一种或多种具身的视频示范中学习奖励函数,再将其迁移到动作空间、动力学、尺寸或形态不同的另一种具身。其主要贡献是将研究重点从近最优示范扩展到混合质量示范,并分析利用人类反馈进行表征学习与对齐的多种技术。 原论文的主要对象是机器人等具身智能系统,例如通过人类视频示范教机器人学习策略,或让机器人模仿不同具身的另一台机器人。核心难点在于,奖励表征既要区分行为质量,又要跨越具身差异;仅依赖近最优示范的设定难以覆盖质量参差不齐的实际数据。摘要未说明人类反馈的具体形式、表征对齐目标、损失函数或训练流程,尚不能将其归纳为某种特定偏好学习算法。 作者报告,在混合质量示范条件下,既有方法难以学到可泛化的奖励表征;作者对多种利用人类反馈的技术进行了分析,并报告不同表征学习技术会产生定性不同的奖励塑形行为,强调人类反馈对混合质量、混合具身数据学习的重要性。摘要未提供具体任务、数据规模、对照方法及定量指标,实验协议、消融及统计信息尚未验证。 该工作提供的是跨具身奖励学习证据,而非 EEG 或 BCI 有效性证据。材料未给出神经信号与视频奖励表征之间的具体对应机制,因此暂不提出 BCI 迁移或复现实验方案;已有 EEG 相关工作尚未检索确认。进一步评估需核对全文中的具身组合、示范质量定义、人类反馈成本、迁移评估协议及实现可用性。

阅读价值

值得阅读之处在于考察混合质量示范下跨具身奖励表征的泛化问题,并分析人类反馈与表征对齐如何影响奖励塑形;具体效果及复现条件尚待全文核验。

来源:OpenReview · Representation learning · openreview.net