解释、解释、再解释:伪迹与解释器扰动下 EEG 模型的不确定性–解释对齐
Explain, Explain, Explain: Uncertainty–Explanation Alignment for EEG Models Under Artifact and Explainer Perturbations
基于摘要分析。该研究关注扰动式归因方法生成解释时,模型是否仍保持可靠预测的问题,提出在同一扰动条件下联合审计预测不确定性与解释可靠性,并以 EEG 型 BCI 为研究场景。其贡献是三个对齐诊断指标,以及在预测熵超过经校准阈值时不输出归因图的 abstain to explain 控制机制。 作者将通道丢失、眼部伪迹突发、肌肉噪声、工频噪声和带通不匹配作为可控扰动,用于考察分布偏移下的解释失效。审计指标包括:以预测熵与 deletion AUC 的 Spearman ρalign 衡量不确定性–忠实度对齐;单调性分数 M;以及统计模型不确定但归因仍高度集中的试次的失配率。摘要未给出各指标的完整定义、预期变化方向或计算细节,因此不能仅凭指标名称判断其是否充分反映解释可信度。 作者报告,在 BCI Competition IV 2a 上使用 EEGNet 和 ShallowConvNet,并比较 single softmax、temperature scaling、MC dropout 与 deep ensembles 时,deep ensembles 产生的解释最符合所提出的审计要求;abstain to explain 则移除了许多尖锐但具有误导性的归因。摘要未提供定量结果,也未明确被试内或跨被试评估、数据划分、具体归因方法及扰动强度,故这些结论应限定在作者所述实验范围内。 复现时需核对预测校准的评估方式、熵阈值的校准数据来源、deletion AUC 的实现,以及拒绝解释后的保留比例和解释质量变化。实验协议、消融及统计信息尚未验证。作者提出协议可推广至 EEG 之外的 AI 场景,但摘要未提供跨领域验证证据。
值得阅读的具体原因是将 EEG 扰动下的预测不确定性与归因可靠性纳入同一审计协议,并提供可复核的诊断指标与拒绝解释机制,但其校准效果及诊断有效性尚需全文验证。
来源:OpenReview · EEG · openreview.net