跳到正文
OpenReview · EEG· Anders Gjølbye; Stefan Haufe; Lars Kai Hansen·· 2025-09-19精选AI 评分77

最小化非线性模型解释中的假阳性归因

Minimizing False-Positive Attributions in Explanations of Non-Linear Models

AI 导读

基于摘要分析。本文研究非线性模型解释中的假阳性特征归因:某些抑制变量虽与目标结果不具有依赖关系,却仍能影响模型预测,因而可能被解释方法误认为与目标有关。作者提出 PatternLocal,将局部线性代理模型的判别式权重转换为生成式表示,以抑制这类变量的影响,并保持解释对模型行为的局部忠实度。 机制上,PatternLocal 以局部线性解释为起点,摘要列举 LIME、KernelSHAP 和基于梯度的方法作为可用来源。其贡献重点不是训练新的预测模型,而是改变局部解释权重的表示方式,将线性模型中针对抑制变量的处理思路扩展到非线性模型与实例级解释。具体变换公式、所需统计量、局部邻域构造及适用条件尚未验证。 作者报告,在 XAI-TRIS benchmark 上进行广泛超参数优化后,PatternLocal 在非线性任务解释中持续优于其他 XAI 方法,并减少了假阳性归因。摘要未提供具体指标、数值、对照方法清单及调参评估划分,因此尚不能量化改进幅度或判断其适用边界。 作者还在一个 EEG 运动想象数据集上评估该方法,报告获得了生理上合理的解释。摘要未给出数据集名称、被试数、被试内或跨被试协议、预测模型及生理合理性的判定标准。该结果支持进一步核对解释与生理知识的一致性,但不足以确认解释具有因果意义,或证明其提升了 BCI 解码性能。实验协议、消融及统计信息尚未验证;复现还需核对实现、超参数搜索范围及局部忠实度与假阳性归因的评估方式。

阅读价值

值得核对 PatternLocal 能否在保持局部忠实度的同时减少抑制变量引起的假阳性归因;作者提供了 XAI-TRIS 与 EEG 运动想象评估,但生理合理性尚不能替代对归因正确性的验证。

来源:OpenReview · EEG · openreview.net