跳到正文
OpenReview · Representation learning· Saimunur Rahman; Piotr Koniusz; Lei Wang; Luping Zhou; Peyman Moghadam; Changming Sun·· 2023-01-01精选AI 评分76

面向图像分类的基于偏相关的深度视觉表征学习

Learning Partial Correlation based Deep Visual Representation for Image Classification

AI 导读

基于摘要分析。本文研究图像分类中的深度视觉表征:卷积特征通道之间的成对相关可能受到共同关联通道的混杂影响,作者将稀疏逆协方差估计(SICE)构造成 CNN 的结构化层,以学习基于偏相关的表征,而非仅使用协方差表征。 核心机制是通过偏相关刻画控制其他通道影响后的通道间关联。作者将其估计转化为对称正定矩阵优化,并设计迭代方法,在前向与反向传播中求解,从而支持端到端训练。这里的研究对象是卷积视觉特征;统计关联中的混杂消除不应直接理解为因果识别。 作者报告,该方法能够缓解 CNN 中协方差估计常见的小样本问题,可利用 GPU 训练,并适用于通道数较多的 CNN;在图像分类实验中,相较基于协方差矩阵的对照表征取得更好的分类表现。摘要未提供数据集、划分、具体指标、效应大小或计算开销,实验协议、消融及统计信息尚未验证。复现还需核对优化目标、稀疏约束、迭代收敛条件及梯度计算方式。 平台推测(待验证):若 EEG 学习特征中的共同成分使成对相关难以区分,偏相关结构层可能作为协方差表征的替代模块。原方法依赖多通道特征及足够的协方差估计样本,分类训练的具体监督设置与规模尚未验证;迁移时可考虑复用 SICE 求解层,但需重设 EEG 的特征采样方式、通道定义与正则强度。低信噪比、短时间窗、通道变化及跨被试分布差异可能使逆协方差估计不稳定,也可能滤除具有判别价值的共享活动。一个可检验的小实验是在固定 EEG 编码器和相同数据划分下,仅替换协方差层与 SICE 层,比较分类指标、估计稳定性及运行开销,并分别报告被试内与跨被试结果。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是将稀疏逆协方差估计嵌入 CNN 并实现端到端训练的机制,以及其相对协方差表征的收益;该机制对 EEG 条件依赖建模的价值尚未验证。

来源:OpenReview · Representation learning · openreview.net