跳到正文
OpenReview · State space models· Shawn Xu; Subhashini Venugopalan; Mukund Sundararajan·· 2020-01-01精选AI 评分80

尺度与空间中的归因

Attribution in Scale and Space

AI 导读

基于摘要分析。本文研究感知任务中深度网络的预测归因问题,提出 Blur Integrated Gradients(Blur IG),旨在解释输入中哪些内容影响预测,以及网络在什么尺度上识别对象。原论文主要面向视觉与音频感知,并非 EEG 或 BCI 方法研究。 核心机制方面,作者将模糊与尺度空间引入归因,除输入位置上的解释外,还生成尺度/频率维度的归因分数。作者称该方法满足尺度空间公理,因而采用不引入伪影的扰动,并产生更干净、与深度网络运作一致的解释;这些性质的形式化条件及验证范围需查阅全文。相较于 Integrated Gradients,作者强调 Blur IG 在感知任务中无需设置基线参数,以减少基线选择对解释的影响。摘要未给出具体积分路径、模糊算子或计算成本。 作者报告与既有归因技术进行了比较,并展示了 ImageNet object recognition、Diabetic Retinopathy prediction 和 AudioSet audio event identification 三项应用。摘要未提供量化指标、数据划分、对照方法名称或统计结果,不能据此判断性能提升幅度。实验协议、消融及统计信息尚未验证。材料提供了代码与示例入口,但实现细节及复现条件尚未核对。 平台推测(待验证):其尺度/频率归因思路可能适用于已训练的 EEG 时频表征分类器,用于检验预测依赖的频率范围,而非直接提高解码性能。该假设依赖具有明确时间、频率轴的输入表示;归因分析本身不应被等同于重新训练,评价解释则需要标签或受控扰动参照。可复用尺度归因思路,但需改造模糊轴与尺度定义,避免将电极排列误作图像空间邻接。低信噪比、跨被试频谱差异、通道配置变化及小数据下的模型不稳定,都可能使归因反映噪声而非任务相关信号。一个可检验的小实验是在固定 EEG 分类器与同一测试划分上,比较 Blur IG 和 Integrated Gradients 的高归因频带遮蔽效应及解释稳定性,并设置随机频带遮蔽对照。原领域结果不构成 BCI 有效性证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的具体原因是 Blur Integrated Gradients 将感知模型的归因扩展到尺度/频率维度,并试图减少 Integrated Gradients 对基线选择的依赖;其解释稳定性及向 EEG 的适用性仍需验证。

来源:OpenReview · State space models · openreview.net