跳到正文
OpenReview · State space models· Andres Felipe Posada-Moreno; Lukas Kreisköther; Tassilo Glander; Sebastian Trimpe·· 2023-01-01精选AI 评分74

尺度保持的自动概念提取(SPACE)

Scale-preserving automatic concept extraction (SPACE)

AI 导读

基于摘要分析。该研究面向工业质量控制中的 CNN 图像分类解释问题,提出 Scale-Preserving Automatic Concept Extraction(SPACE),旨在避免概念提取过程改变图像特征尺度,从而生成更符合原始判别依据的全局解释。 核心机制是从输入图像中选取正方形切片,经过平铺后再聚类形成概念,并在概念提取过程中避免尺度变化。其针对的问题是:孔洞大小、边缘等特征的尺度可能直接影响质量判定,若解释方法改变这些尺度,提取出的概念可能难以忠实反映模型决策。这里的贡献是解释流程中的尺度保持,而非新的图像分类架构。 作者报告,在工业质量控制背景下的三个图像分类数据集上,SPACE 优于其他概念提取方法,并提供了可用于理解 CNN 决策机制的洞见。摘要未给出数据集名称、划分、对照方法、评价指标或具体数值,故尚不能量化优势;切片选择、平铺规则、聚类配置、实验协议、消融及统计信息尚未验证。作者称提供实现代码,但当前材料不足以核验实现与复现条件。 平台推测(待验证):若 EEG 分类器以时频图作为输入,且局部模式的时间跨度与频率范围具有判别意义,SPACE 的尺度保持思路可能用于检查解释过程是否扭曲这些模式。可复用的是切片与概念聚类思路,需改造的是时间轴、频率轴及通道关系的表示;直接平铺可能制造非生理性的重复结构,低信噪比、跨被试差异和小数据也可能使聚类主要反映伪迹。一个可证伪的小实验是在固定 EEG 分类器及同一被试内数据划分下,比较尺度保持与缩放切片的概念解释对预设时频扰动的敏感性和稳定性,而非将其视为分类性能提升方法。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其对概念提取中尺度失真的明确处理,但作者报告的解释优势仍需结合全文中的对照协议核验,不能据此认定其适用于 EEG。

来源:OpenReview · State space models · openreview.net