跳到正文
OpenReview · Representation learning· Shuang Qiu; Lingxiao Wang; Chenjia Bai; Zhuoran Yang; Zhaoran Wang·· 2022-01-01精选AI 评分81

Contrastive UCB:在线强化学习中具有可证明效率保证的对比自监督学习

Contrastive UCB: Provably Efficient Contrastive Self-Supervised Learning in Online Reinforcement Learning

AI 导读

基于摘要分析。本文研究对比自监督学习如何支持在线强化学习,主要对象是具有低秩转移结构的马尔可夫决策过程(MDPs)和马尔可夫博弈(MGs),而非 EEG 解码或 BCI。核心贡献是通过最小化对比损失学习低秩模型的特征表示,并将其与上置信界(UCB)型在线强化学习算法结合。 机制与理论:对比学习承担表示提取,UCB 型算法用于在线探索和决策。作者报告,在所研究模型及理论条件下,算法能够恢复真实表示,并在 MDPs 的最优策略学习和 MGs 的 Nash 均衡学习中获得样本效率保证。具体对比损失、样本构造、置信界形式、理论假设和复杂度界尚未验证。作者将其定位为据其所知首个将对比表征学习纳入其中、且具有可证明效率保证的在线强化学习算法;该优先性主张未独立核实。 实验与复现:作者报告进行了经验研究以展示方法有效性,并提供代码链接;摘要未给出任务、数据规模、对照基线或量化结果。实验协议、消融及统计信息尚未验证,代码实现与论文理论条件的一致性仍需核对。 平台推测(待验证):潜在对应场景是需要在线探索的闭环 BCI 决策,而非直接替换 EEG 分类器。迁移假设是交互过程可近似为低秩转移模型,并能获得状态或观测、动作、后继观测及奖励。可考虑复用对比表征学习与 UCB 探索思路,但需改造 EEG 状态编码、奖励定义和安全探索约束。低信噪比、部分可观测性、跨被试或跨会话非平稳性,以及小数据条件都可能破坏原有假设。可先在具有已知低秩动力学和可控观测噪声的闭环仿真中,比较相同交互预算下加入或不加入对比表征学习的 UCB 策略表现,再判断是否值得进入 EEG 验证;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是作者将对比自监督表征学习与 UCB 在线探索结合,并在低秩转移假设下给出表征恢复及策略学习的理论保证,但其对 EEG/BCI 闭环学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net