跳到正文
OpenReview · Representation learning· Ashena Gorgan Mohammadi; Manu Srinath Halvagal; Friedemann Zenke·· 2026-05-18精选AI 评分76

通过联合嵌入预测架构理解表征学习的神经回路原理

Understanding neural circuit principles for representation learning through joint-embedding predictive architectures

AI 导读

基于摘要分析。本文研究神经回路如何仅凭经验,从混杂的连续感觉输入中形成关于物体身份及其动态的抽象表征。作者提出 recurrent predictive learning(RPL),一种受自监督学习启发的循环联合嵌入预测架构,将预测目标从感觉输入空间转向表示空间,不依赖外部监督或标注数据。 机制上,RPL 从连续感觉流中学习物体身份及动态表征,并预测未来物体运动。其理论重点并非忠实重建感觉输入,而是解释抽象、解纠缠表征如何通过预测学习产生。摘要提出模块化前馈—循环组织与皮层微回路之间的可能对应,但具体目标函数、训练方式、避免表征坍塌的机制及回路映射细节尚未验证。 作者报告,模型学习到的序列表征类似于人类初级视觉皮层中观察到的 successor-like representations,并形成可与猕猴前额叶皮层已有报告相比的抽象序列表征。这些是模型表征与神经现象的对应性结论,不能据此认定模型已复现真实皮层机制。所用感觉数据、神经数据或文献对照方式、相似性指标、实验协议、消融及统计信息尚未验证。 平台推测(待验证):表示空间的循环预测可能为 EEG 连续时序的自监督表征学习提供候选机制;原任务依赖连续感觉序列,而 EEG 的低信噪比、通道混合及跨被试差异可能使预测目标偏向背景节律或伪迹,而非任务相关信息。可考虑复用表示空间预测思路,改造输入编码与时序采样;一个可证伪的小实验是在固定数据划分和编码器容量下,对比 RPL 式表示预测与输入预测在被试内及跨被试下游任务中的表现。该实验仅为迁移假设,尚未检索确认已有 EEG 相关工作,也尚无本材料支持的 BCI 效果。

阅读价值

值得阅读的是 RPL 将表示空间预测、循环序列学习与皮层表征现象联系起来的机制框架,但摘要中的神经表征相似性尚不能证明其生物学实现或 EEG/BCI 迁移有效性。

来源:OpenReview · Representation learning · openreview.net