跳到正文
OpenReview · State space models· Faisal Hamman; Erfaun Noorani; Saumitra Mishra; Daniele Magazzeni; Sanghamitra Dutta·· 2024-01-01精选AI 评分80

模型多重性下具有概率保证的鲁棒算法追索

Robust Algorithmic Recourse Under Model Multiplicity With Probabilistic Guarantees

AI 导读

基于摘要分析。本文研究算法追索(algorithmic recourse,即通过改变输入获得目标预测的反事实解释)在模型更新后能否保持有效,提出 naturally-occurring model change 抽象与 Stability 度量,以刻画反事实对模型变化的鲁棒性。主要研究对象是可微模型的反事实解释,而非 EEG 解码或 BCI。 机制上,既有研究常用原模型与新模型之间的参数距离上界约束变化;本文则允许参数空间发生任意变化,但限制数据流形上样本的预测变化。这一区分旨在处理参数差异很大、预测表现却接近的模型,也与模型多重性及 Rashomon effect 相联系。 作者报告,在所定义的模型变化条件下,Stability 足够高的反事实可在模型变化后以高概率保持有效,理论推导利用了独立高斯变量的 Lipschitz 函数集中界。该保证依赖具体假设,不能理解为对任意模型更新均成立。由于 Stability 的量化依赖数据点附近的局部 Lipschitz 常数,作者还研究其估计方法,并推导精确估计所需样本量的基本下界;摘要未提供具体公式、界的常数或样本量数值。 作者进一步探索利用稳定性度量生成距离近、现实可行且对模型变化鲁棒的反事实,但摘要未给出具体优化流程、数据集、对照基线或量化结果。实验协议、消融及统计信息尚未验证。其直接价值在于区分参数稳定与预测稳定,并将反事实鲁棒性与估计成本联系起来;目前材料不足以建立具体 EEG/BCI 迁移路径,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以数据流形上的预测变化而非参数距离刻画模型更新,并为反事实有效性提供条件性概率保证;保证的适用条件与 Stability 的可估计性仍需核对全文。

来源:OpenReview · State space models · openreview.net