深度 RL 中的预测性辅助目标模拟脑内学习
Predictive auxiliary objectives in deep RL mimic learning in the brain
基于摘要分析。本文研究深度 RL 中的预测性辅助目标如何影响不同模块的表征学习,以及这些变化能否模拟脑内学习现象。其主要贡献是把辅助预测模型、编码器网络和价值学习网络的表征变化,与多个脑区的学习现象建立计算层面的联系,而非提出直接面向 EEG 或 BCI 的解码算法。 方法上,研究以自监督预测作为 RL 的辅助学习目标,考察其对系统不同模块表征的影响,并分析预测时间跨度与表征迁移之间的关系。摘要未给出具体预测对象、损失形式、模块间优化方式或训练任务,因此尚不能判断其收益来自何种信息与梯度传递机制。 作者报告,预测性辅助目标能够改善并稳定学习,尤其是在资源受限的架构中;在部分设置下,更长的预测时间跨度更有利于表征迁移。摘要未提供这些设置的定义、对照基线或定量指标,不能据此推广为预测跨度越长越好。 在神经科学解释上,作者将辅助预测模型联系到海马,将编码器网络和价值学习网络分别联系到视觉皮层与纹状体,并报告模型中的表征变化与多项脑实验观察相似。作者据此提出,海马可能还充当辅助学习系统,促进其他脑区的表征学习。这是计算建模解释,不等同于验证了脑区之间的因果机制。 具体环境、脑实验来源、表征相似性的评估方法、实验协议、消融及统计信息尚未验证;代码与复现条件亦需查阅全文确认。材料未提供神经信号解码或 BCI 评估,尚不宜据此生成具体迁移方案;相关 EEG 工作尚未检索确认。
值得阅读之处在于将深度 RL 中预测性辅助目标对不同模块表征的影响,与海马、视觉皮层和纹状体的表征变化联系起来,为研究辅助学习与脑区间交互提供可核对的计算假说,但不构成 BCI 有效性证据。
来源:OpenReview · Representation learning · openreview.net