致相信忠实性的人:优化插入与删除曲线下面积以排序相对特征重要性
For Those Who Believe in Faithfulness: Optimizing the Area Under Insertion and Deletion Curves for Ranking Relative Feature Importance
基于摘要分析。研究关注特征归因热图如何更忠实地反映模型预测依据,将基于插入与删除曲线下面积的评价思路转化为优化目标,并提出梯度近似方法;结合 neural explanation mask 框架得到 Ra-NEM,用于生成相对特征重要性归因。 核心机制是考察逐步加入或移除输入特征时模型输出的变化。作者建立插入曲线与 top-k 特征选择之间的联系,据此构造衡量归因质量的损失,并通过损失随机化高效近似梯度。其方法特点是将通常用于评估归因忠实性的指标用于优化,而不只是事后评价。摘要未给出具体损失形式、随机化分布、掩码训练方式及插入或删除所用的替代值,这些实现条件尚未验证。 作者报告,Ra-NEM 可用于任意可微模型且不影响原模型性能;在摘要所述、但未明确数据集与评估协议的实验中,相较其他算法,其归因具有更高忠实性,在其他 XAI 指标上也表现良好,并具备适合在线应用的推理速度。具体对照方法、指标数值、运行硬件、训练成本、消融及统计信息尚未验证。还需核对优化目标与评估指标之间的关系,以及归因排序对特征替代策略的敏感性;摘要结果不等同于对真实因果重要性的验证。 平台推测(待验证):若应用于 EEG 解码模型,该机制可能用于排序通道、时间片或频带的重要性,依赖可微模型及合理的特征分组和扰动定义。可复用归因目标与梯度近似思路,但需改造掩码及替代策略,避免破坏 EEG 的时空相关结构。低信噪比、通道相关性、跨被试差异及小数据训练可能导致归因不稳定。可在固定模型与固定被试内测试划分下,对比 Ra-NEM 和现有归因方法,检验不同替代策略下的忠实性、排序稳定性与推理耗时。已有 EEG 相关工作尚未检索确认。摘要提供了代码地址,但实现完整性与复现条件尚未核验。
值得核对其如何将插入与删除曲线的忠实性评价转化为可优化目标,并检验直接优化该指标后在其他 XAI 指标上的表现,具体实验协议与效率证据尚未验证。
来源:arXiv · 学习目标与优化 · arxiv.org