跳到正文
OpenReview · Representation learning·· 2026-09-17精选AI 评分78

每次三步:在对比强化学习中从动作序列学习表征

Three Steps at a Time: Learning Representations from Action Sequences in Contrastive RL

AI 导读

基于摘要分析。本文研究自监督强化学习应在何种时间尺度上建模动作,将通常使用单步动作的对比强化学习(CRL)扩展到动作块(action chunks),以动作序列参与表征学习。主要贡献不仅是评估动作分块带来的性能变化,还包括探究其在 CRL 中改善学习的机制。 作者报告,在涵盖 18 个环境的离线基准和 11 个环境的在线基准上,相较标准单步动作 CRL,分别获得 +31.7% 和 +93.1% 的增益。摘要未说明具体基准名称、评价指标、聚合方式及增益计算口径,因此这些数字不能解读为成功率或 Accuracy 的百分点提升,也不能直接比较在线与离线设置的效果。 机制方面,作者指出,通常用于解释动作分块收益的两类因素——建模非马尔可夫、时间扩展策略,以及传播无偏多步回报——只能部分解释 CRL 中的现象。作者报告,其实证研究提示,一个动作块比单个动作携带更多关于目标的信息,能够改善 critic 的表征,并提高算法有效性。这是摘要所提出的机制解释,具体信息量度量、表征评估与因果区分尚未验证。 摘要未提供动作块长度设置、损失函数、网络结构、训练预算或代码信息;实验协议、消融及统计信息尚未验证。本文的主要研究对象是通用强化学习中的动作序列表征,并非 EEG 解码或 BCI 控制。当前材料不足以建立具体的 EEG/BCI 迁移机制,不能将上述收益外推为 BCI 性能改善;相关 EEG 工作尚未检索确认。

阅读价值

值得阅读的是作者将 action chunk 的收益与目标信息及 critic 表征质量联系起来,而不只诉诸时序扩展策略或多步回报解释;其机制证据与增益计算方式仍需全文核对。

来源:OpenReview · Representation learning · openreview.net