校准因果定位分数:特征空间比较依赖于干预预算与写回语义
Calibrating Causal-Localization Scores: Feature-space comparisons depend on intervention budget and write-back semantics
基于摘要分析。本文研究表征可解释性中的因果定位评估:通过干预选定特征并测量反事实行为所得的分数,究竟反映表征自身,还是同时受干预方式影响。作者提出将因果定位视为“相对于干预的测量”,用干预响应曲线描述因果响应如何随实际作用于残差空间的干预及其选择、写回和评估条件变化,而非为每个特征空间赋予单一内在分数。 核心机制是将比较基准从名义上的特征干预转向实际实现的残差空间干预,区分定位能力与测量干预自身的容量及效应传递能力。作者在 RAVEL、MIB 的 IOI 设置及具有已知因果结构的合成模型中报告:不同有效残差空间预算下,方法排序会变化;与目标子空间秩匹配的随机子空间也能产生可观的因果效应。 作者报告,在其对 MIB 学习掩码流程的重放中,名义上可比的学习式干预所占据的残差子空间,秩最多相差 9.9 倍;在两个成功优化、且原始秩差异较大的测试中,按共同的残差支撑子空间秩重新优化后,方法排序均发生变化。写回语义还引入另一类不对称:仅改变写回算子就会明显改变 SAE 的因果分数,而正交归一基保持不变。在作者测量的各设置中,替换整个字典可恢复相应完整状态干预因果效应的 7%–99%;该范围不能脱离各自设置直接比较。 这项工作的主要贡献是评估校准原则,而非 EEG/BCI 算法:应在干预实际发生的残差空间中比较方法,并同时报告分数与干预条件。具体预算定义、算子实现、优化成功判据、实验协议、消融及统计信息尚未验证;摘要不足以判断这些校准原则在神经信号表征上的适用性。
该研究通过干预预算与写回算子的对照,检验因果定位排名是否反映表征本身,值得用于审视可解释性评估中的比较条件,但具体实验协议与稳健性仍待全文核对。
来源:OpenReview · State space models · openreview.net