跳到正文
OpenReview · State space models· Faisal Hamman; Erfaun Noorani; Saumitra Mishra; Daniele Magazzeni; Sanghamitra Dutta·· 2024-01-01精选AI 评分80

模型多重性下具有概率保证的稳健算法追索

Robust Algorithmic Recourse Under Model Multiplicity With Probabilistic Guarantees

AI 导读

基于摘要分析。本文研究算法追索(algorithmic recourse,即帮助个体获得目标预测结果的反事实改变建议)在模型更新后能否继续有效,提出 naturally-occurring model change 数学抽象与 Stability 度量,并在所定义的模型变化条件下建立反事实有效性的概率保证。 核心机制:已有方法常通过原模型与新模型之间的参数距离上界约束变化,但参数差异较大并不必然意味着预测或准确率明显变化。本文转而允许参数空间中的任意变化,同时限制数据流形上样本点的预测变化。针对神经网络等可微模型,作者提出 Stability,用于量化反事实对潜在模型变化的稳健性。 理论贡献:作者报告,借助独立高斯变量的 Lipschitz 函数集中界,足够高的 Stability 可使反事实在满足上述定义的模型变化后以高概率保持有效。这是有条件的概率保证,不能理解为对任意模型替换均成立。由于度量依赖数据点附近的局部 Lipschitz 常数,作者还研究了估计方法,并推导精确估计所需样本量的基本下界;具体假设、误差定义及界的形式尚未验证。 作者进一步探索利用稳定性度量生成距离较近、符合现实且在模型变化后仍有效的反事实,并讨论其与 model multiplicity(亦称 Rashomon effect)的联系。摘要未提供数据集、模型配置、对照方法或定量实验结果,实验协议、消融及统计信息尚未验证。本文主要对象是通用算法追索,而非 EEG 解码或 BCI;当前材料不足以建立具体迁移路径,已有 EEG 相关工作亦尚未检索确认。

阅读价值

值得关注的是,作者以数据流形上的预测变化替代参数距离约束来刻画模型变化,并为反事实解释的稳定性给出概率保证;保证的具体假设及估计成本仍需全文核对。

来源:OpenReview · State space models · openreview.net