用于可解释图像识别的透明嵌入空间
Transparent Embedding Space for Interpretable Image Recognition
基于摘要分析。本文研究图像识别中如何用局部概念解释分类决策,提出带有可插拔透明嵌入空间的自解释架构 TesNet,将高层输入图像块表示(如特征图或 tokens)与输出类别连接,使局部证据对预测的作用更易于解释。 其核心是在 Grassmann 流形上构建由基概念张成的嵌入空间,约束概念具有类别感知性,并使同一类别内的概念彼此正交,以促进概念解耦。作者还提出两种概念剪枝方法及一种重新训练策略,用于减少概念冗余并恢复概念空间结构。摘要未给出具体损失形式、剪枝准则及重新训练流程。 作者报告,在 VGG、ResNet、DenseNet 和 Vision Transformer 上开展实验以验证 TesNet 的可扩展性,并设计多项自解释模型的解释性指标,与先进自解释方法比较;作者报告分类准确率与预测解释性均得到改善。摘要未提供数据集、划分、具体对照、指标定义或数值,实验协议、消融及统计信息尚未验证,因此无法据此判断改善幅度或跨架构一致性。 平台推测(待验证):该方法依赖可分解的局部表示和类别监督,其“局部表示—概念—类别”路径可能用于检验 EEG 分类模型是否依赖稳定的时空或时频证据。可复用的是概念空间及剪枝思路;需改造的是图像块表示与概念证据的呈现方式。假设风险在于:EEG 低信噪比、通道差异及跨被试变化可能使概念捕获伪迹或个体特征,而类内正交约束不必然对应生理机制独立。一个可证伪的小实验是在固定 EEG 编码器和相同跨被试划分下,对比有无该概念模块时的分类表现及概念在通道扰动下的稳定性;这不是论文已验证的结果。相关 EEG 工作尚未检索确认。
值得核对 TesNet 如何通过 Grassmann 流形上的类别感知、类内正交概念组织预测证据,以及概念剪枝后的解释性与分类性能是否保持;其 EEG/BCI 适用性尚未验证。
来源:OpenReview · State space models · openreview.net