跳到正文
OpenReview · Representation learning· Giovanni Granato; Emilio Cartoni; Federico Da Rold; Andrea Mattera; Gianluca Baldassarre·· 2021-01-01精选AI 评分70

整合无监督学习与强化学习的大脑皮层表征学习计算模型

A Computational Model of Representation Learning in the Brain Cortex, Integrating Unsupervised and Reinforcement Learning

AI 导读

基于摘要分析。本文研究奖励驱动的试错过程是否不仅参与运动表征学习,也能参与皮层感觉表征的形成。作者提出一个整合无监督学习 Contrastive Divergence 与强化学习 REINFORCE 的计算模型,考察两类学习过程如何共同形成更有利于下游动作选择的表征。 研究动机来自多巴胺信号的分布:通常被视为编码奖励的多巴胺信号不仅到达基底节,也到达前额叶、运动及高级感觉皮层。作者据此提出,奖励引导的试错过程可能与联结学习共同作用于皮层表征学习;这是待检验的机制假设,而非已经确立的皮层学习结论。 模型在视觉分类反应任务上接受测试:输入图像按颜色、形状或大小形成类别,任务要求对不同图像作出不同反应。作者报告,在所测试的任务与模型设置下,无监督学习与强化学习的平衡组合表现最好;无监督学习占比过高时,任务相关特征容易表征不足,而强化学习占比过高时,初期学习较慢,随后容易陷入局部最优。摘要未提供具体性能指标或混合比例,不能据此确定可推广的最优配置。 该工作的主要对象是皮层表征学习的计算机制,而非 EEG 解码或 BCI 系统。作者将结果视为开展纹状体外视觉皮层类别学习实证研究、以及进一步探索两类学习机制整合的动机。网络结构、奖励设计、训练细节、实验协议、消融及统计信息尚未验证;计算任务中的结果也不等同于对真实皮层机制的直接验证。

阅读价值

值得阅读之处在于将 Contrastive Divergence 与 REINFORCE 结合,检验奖励信号参与皮层感觉表征学习的计算假设,并比较两类学习过程失衡时的不同失败模式;其神经生物学解释仍需实证验证。

来源:OpenReview · Representation learning · openreview.net