跳到正文
OpenReview · Representation learning· Zhengqi Pei; Shuhui Wang·· 2023-04-25精选AI 评分74

动力学启发的类脑视觉表征学习

Dynamics-inspired Neuromorphic Visual Representation Learning

AI 导读

基于摘要分析。本文研究视觉表征学习,提出一种遵循 Hamilton 原理、由动力学启发的类脑架构,将基于权重的神经网络转换为由有限个子模型组成的动力学形式,并通过熵降低过程优化其状态。 核心机制是计算子模型动力学状态之间的路径积分,以表征其相互关系;作者将这些关系描述为与常规神经权重等价。由 Euler–Lagrange 方程导出的熵降低过程提供反馈信号,这些信号被解释为子模型之间的应力,推动子模型状态变化。摘要还提出模型性能与结构熵存在相关性,但这种相关性不能直接视为因果解释;“无权重”也不应据此理解为无需存储或优化任何参数。 作者报告,从零训练的动力学模型在 MNIST 上优于传统神经模型;对于若干预训练网络,先转换为动力学形式,再通过熵降低微调至稳定状态后,在 ImageNet 和 WebVision 上相较对应权重模型,在计算复杂度、参数规模、测试准确率及鲁棒性方面均有改善。摘要未提供具体网络、数值、划分、复杂度核算方式或鲁棒性测试条件,因此无法量化收益或判断适用范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,将已有 EEG 表征网络转换为动力学形式后,以状态关系和熵降低过程调整表示,可能改变其对噪声或分布变化的敏感性,而非已经证实能够改善 BCI。可复用候选是网络转换与状态优化机制,需改造的是 EEG 时序、多通道输入及任务输出的适配;其对监督、预训练规模及输入结构的依赖尚不清楚。低信噪比、跨被试差异、通道变化和小数据可能使状态优化不稳定,或使熵降低与判别目标不一致。可先在固定跨被试划分下,比较同一 EEG 基线转换前、仅转换后及转换并微调后的 Accuracy、资源开销与噪声敏感性,检验转换收益是否成立。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以子模型动力学状态及路径积分关系替代显式权重的机制,尤其是转换前后的复杂度、参数规模与鲁棒性评估,但摘要尚不足以判断其对 EEG 表征学习的适用性。

来源:OpenReview · Representation learning · openreview.net