跳到正文
OpenReview · Representation learning· Dipendra Misra; Akanksha Saran; Tengyang Xie; Alex Lamb; John Langford·· 2024-01-16精选AI 评分81

面向强化学习的原则性视频表征学习

Towards Principled Representation Learning from Videos for Reinforcement Learning

AI 导读

基于摘要分析。该研究探讨如何利用视频预训练面向决策的表征,核心目标是恢复底层 MDP 的潜在状态,并从理论上刻画不同噪声条件下的学习难度。研究比较 autoencoding、temporal contrastive learning 与 forward modeling,区分观测中的 iid 噪声,以及具有时间相关性的外生噪声,例如背景中人员或车辆的运动。 理论方面,作者报告:在仅有 iid 噪声的设定下,为 temporal contrastive learning 和 forward modeling 建立了上界,表明这些方法能够学习潜在状态,并支持具有多项式样本复杂度的下游 RL。在同时存在外生噪声的设定下,作者建立下界,说明从视频学习的样本复杂度可能比从带动作标签的轨迹学习呈指数级恶化。该结论针对摘要所述设定,不宜扩展为所有视频预训练方法均无效;定理所需的可辨识性条件、数据生成假设及复杂度依赖项尚未验证。 实验方面,作者报告在两个视觉领域评估了这些表征学习方法,结果与理论发现一致。摘要未提供领域名称、数据规模、划分、对照细节或具体指标;autoencoding 的具体理论结论,以及实验协议、消融及统计信息尚未验证。摘要也未说明实现与复现资源。 平台推测(待验证):若将视频中的潜在状态与外生干扰结构对应到 EEG,本文可为区分任务相关动态与时间相关干扰提供分析视角,但前提是潜在状态及决策结构的假设适用。可借鉴的是噪声分类与表征目标的比较框架;观测建模和决策接口需针对 EEG 改造。低信噪比、跨被试差异、通道变化及小数据都可能破坏状态可辨识性,不能由视觉领域结论推出 BCI 效果。一个可检验的小实验是在可控潜在状态的多通道模拟信号中,分别加入 iid 与时间相关干扰,比较上述表征方法的状态恢复能力,并在明确记录动作的决策设定中加入带动作标签的轨迹对照。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其对 iid 噪声与时间相关外生噪声的理论区分,以理解视频预训练何时支持高效下游 RL、何时相较带动作标签的轨迹面临样本复杂度障碍;具体定理条件尚待全文核对。

来源:OpenReview · Representation learning · openreview.net