跳到正文
OpenReview · Representation learning· Craig Sherstan; Marlos C. Machado; Patrick M. Pilarski·· 2018-01-01精选AI 评分73

利用 Successor Representation 加速构建式预测框架中的学习

Accelerating Learning in Constructive Predictive Frameworks with the Successor Representation

AI 导读

基于摘要分析。本文研究机器人如何在环境与任务变化时,利用已有经验更快地学习不断新增的预测问题,提出将 Successor Representation(SR,后继表示)用于基于 General Value Functions(GVFs,广义价值函数)的构建式知识系统。核心贡献是通过复用环境动态中的规律,减少新增预测从头学习的需求,而非提出 EEG 或 BCI 解码方法。 GVFs 将对世界的建模表述为预测问题;摘要描述的知识系统由相互连接、相互依赖且随时间逐步增加的 GVF 构成。SR 将环境动态与具体预测目标分离,使多个 GVF 能够共享经验中获得的规律。其复用前提是不同预测任务之间存在可共享的动态结构,但具体状态表示、监督信号、更新规则与数据规模尚未验证。 作者报告,在持续加入并学习新预测的持续学习设置中,使用 SR 可以提高 GVF 的样本效率与学习速度;研究先在网格世界中分析该方法,再以实体机械臂数据展示其潜力。摘要未提供具体提升数值及对照基线,实验协议、消融及统计信息尚未验证,不能据此判断在环境动态明显变化时仍能保持同等收益。 平台推测(待验证):若 EEG/BCI 系统需要在相近交互动态下持续增加预测目标,共享动态表示可能减少新增目标的数据需求。这一假设要求先将神经信号或交互历史转化为适合预测的状态表示;可复用的是 SR 与目标分离的思路,需改造的是信号编码和预测目标定义。低信噪比、跨被试差异、通道变化及小数据条件可能使共享动态估计失效。一个可证伪的小实验是:在固定被试、固定通道及固定采集条件的序列数据上逐步增加预测目标,在相同数据预算与划分下比较共享 SR 和各目标独立学习的学习曲线,并检查是否出现负迁移。相关 EEG 工作尚未检索确认。

阅读价值

值得关注的是利用 Successor Representation 分离环境动态与预测目标、加速新增 GVF 学习的知识复用机制;作者在网格世界与实体机械臂数据上进行了分析,但其对 EEG/BCI 持续学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net