通过在高斯混合分布潜在空间中搜索生成反事实解释
Counterfactual Explanation via Search in Gaussian Mixture Distributed Latent Space
基于摘要分析。本文研究预训练二分类器的反事实解释(Counterfactual Explanations,CEs):如何寻找能够改变预测结果、又尽量保持原样本特征的修改。核心方法是将自编码器的潜在空间塑造成高斯混合分布,再沿查询样本的潜在表示与目标类别质心之间进行线性插值,搜索反事实样本。 该方法将反事实搜索从原始输入空间转移到具有分布结构的潜在空间,旨在缓解既有方法计算开销较大、生成建议不够现实或难以行动的问题。摘要未说明高斯混合分布的具体约束方式、训练损失、质心估计方式、搜索停止条件及对分类器的访问要求,这些实现细节尚未验证。 作者报告,在图像和表格数据集实验中,该方法能在搜索过程中保持输入样本的特征,在多种质量度量上具有竞争力,并相较三种被作者称为先进方法的对照,高效生成更接近原始数据流形的结果。摘要未提供数据集名称、划分、指标定义、数值及对照名称;实验协议、消融及统计信息尚未验证。接近数据流形不等同于满足现实中的可行动性或因果约束,需要结合正文核对。 平台推测(待验证):该机制可作为 EEG 二分类模型的解释研究假设,而非已验证的 BCI 方法。可复用的是潜在空间分布约束与插值搜索;需改造的是 EEG 编码与重建模块,以及符合生理和采集条件的修改约束。其有效性依赖潜在表示能保留任务信息并合理组织类别结构,低信噪比、跨被试差异、通道配置变化及小数据可能使插值偏离真实信号分布。一个可检验的小实验是在固定被试内划分和预训练 EEG 二分类器上,对比该搜索与不施加高斯混合约束的潜在插值,分别检查预测翻转率、修改幅度、重建质量及生理合理性;预测翻转不能直接解释为用户可执行的调节建议。已有 EEG 相关工作尚未检索确认。
值得核对其高斯混合潜在空间中的反事实搜索如何兼顾计算效率、样本特征保持与数据流形接近程度,但这些性质是否足以支持可行动解释尚需验证。
来源:OpenReview · State space models · openreview.net