跳到正文
OpenReview · State space models· Keziah Naggita; Matthew Walter; Avrim Blum·· 2025-05-30精选AI 评分76

在大状态空间中学习可行动的反事实解释

Learning Actionable Counterfactual Explanations in Large State Spaces

AI 导读

基于摘要分析。本文研究如何将分类模型给出的特征级反事实解释(CFEs)转化为现实中可执行的行动,并通过数据驱动学习减少逐个个体求解最优行动组合的计算开销。主要对象是分类决策中的行动补救,而非 EEG 解码或 BCI,也并非状态空间序列模型研究。 作者指出,低层级 CFEs 往往只建议修改输入特征,未必直接对应现实行动,因此提出 high-level continuous(hl-continuous)、high-level discrete(hl-discrete)和 high-level ID(hl-id)三类解释。摘要具体介绍了前两类的单个体求解方法:将 hl-discrete 建模为加权集合覆盖问题,选择满足特征资格条件的最低成本离散行动集合;将 hl-continuous 建模为整数线性规划,寻找能够使线性分类器预测转为有利结果的最低成本行动集合。hl-id 的具体机制尚未验证。 为避免对每个新个体执行高成本优化,作者使用“个体实例—最优 CFE”样本训练生成器,并将其解释为在一族大型、确定性 MDP 中学习最优策略。研究还考虑行动及其效果未知的设定;但摘要未交代相应监督信息、训练规模、网络结构及最优性保证的适用条件。 作者在公开医疗健康数据集 BRFSS、Foods、NHANES 及全合成数据上开展评估,针对线性和基于阈值的二分类器判为负类的个体,将所提行动补救形式与低层级 CFEs 比较,并评估基于神经网络的数据驱动生成器。作者报告生成器具有准确性与资源效率,且高层级补救形式相较低层级 CFEs 具有多方面优势;摘要未提供具体指标、数值或划分协议,不能据此判断收益大小。实验协议、消融及统计信息尚未验证,现实行动效果的可执行性也需结合全文核对。材料未提供明确的 EEG/BCI 机制对应关系,因此不据此提出迁移效果或复现实验建议。

阅读价值

值得关注其将特征修改转化为现实行动组合、再学习快速反事实解释生成器的机制,但摘要未给出定量结果,其适用边界与计算收益仍需核对全文。

来源:OpenReview · State space models · openreview.net