尺度保持的自动概念提取(SPACE)
Scale-Preserving Automatic Concept Extraction (SPACE)
基于摘要分析。本文研究工业质量控制中 CNN 的全局可解释性问题,提出 Scale-Preserving Automatic Concept Extraction(SPACE),以避免概念提取过程中的尺度变化破坏孔洞大小、边缘等具有判别意义的图像特征。主要研究对象是工业图像分类模型,而非 EEG 或 BCI。 核心机制:SPACE 从输入图像中选取正方形切片,将其平铺后聚类为概念,并在概念提取过程中避免尺度变化,以人类可理解的概念解释已训练 CNN 的决策。其方法动机是:对于依赖特征尺寸的任务,概念提取时改变尺度可能改变特征含义,从而影响解释的可靠性。切片选择规则、平铺方式、聚类算法及概念与模型决策之间的量化关联尚未验证,不能据摘要补全。 评估与复现:作者报告在工业质量控制背景下的三个图像分类数据集上,SPACE 优于其他方法,并能提供可用于分析 CNN 决策机制的解释。摘要未给出数据集名称、划分、基线、指标或具体数值,因此无法判断优势幅度及适用边界;实验协议、消融及统计信息尚未验证。作者表示提供实现代码,但当前材料不足以核对代码位置、依赖和复现配置。 平台推测(待验证):若 EEG 分类器以时频图为输入,且判别依据涉及事件持续时间或频带宽度,尺度保持可能有助于避免解释预处理改变这些物理含义。这一假设依赖时频坐标标定和一致的输入尺度;可考虑复用切片与概念聚类思路,但需核对平铺是否引入人工周期纹理,以及概念能否映射回时间、频率与通道。低信噪比、跨被试差异和小样本可能使聚类主要反映伪迹。一个可证伪的小实验是在固定 EEG 时频分类器与同一数据划分下,对比保尺度与缩放切片得到的概念,检查其对已知时频事件的定位稳定性及决策关联。该方向已有 EEG 相关工作尚未检索确认,不能视为本文已验证的贡献。
值得关注的是 SPACE 将特征尺度保真引入 CNN 的全局概念解释流程;其相对优势由作者在工业图像分类任务中报告,具体评估协议与对 EEG 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net