跳到正文
OpenReview · State space models· Carlos Mougan; Antonio Ferrara; Laura State; Salvatore Ruggieri; Steffen Staab·· 2024-09-26AI 评分76

通过解释分布差异度量“对受保护属性视而不见的平等对待”的影响

Measuring the Impact of Equal Treatment as Blindness via Distributions of Explanations Disparity

AI 导读

基于摘要分析。本文研究机器学习公平性中的 equal treatment as blindness,即不直接考虑个体受保护特征的平等对待政策,并提出 Explanation Disparity,通过不同受保护群体的模型解释分布评估这种平等对待。研究对象是预测模型的公平性测量,并非 State Space Models 或 EEG/BCI 建模。 作者指出,Demographic Parity(亦称 Statistical Parity)不能忠实衡量模型是否独立于受保护属性对待个体。新指标关注受保护属性能否从解释值分布中被推断出来,具体采用 Shapley values,并检验不同受保护群体的解释分布是否具有统计独立性。其核心区别在于审查解释层面的群体差异,而不只是预测输出的群体统计差异;这两类公平性概念不能直接视为等价。 作者报告分析了 Explanation Disparity 的理论性质,并以 Classifier Two-Sample Test 的 AUC 构建平等对待检查工具,在合成数据与真实数据上进行演示及相关概念比较。摘要未提供具体数据集、划分方式、对照结果或 AUC 数值,理论假设、Shapley 值计算设置、实验协议、消融及统计信息尚未验证。这里的 AUC 是检查工具的度量,不应混同于原预测任务的性能。 作者同时报告发布了开源 Python 包 explanationspace,包含方法与教程;具体实现、依赖及复现流程尚未核验。该方法测量的是特定公平性政策下的解释差异,不应据摘要扩展为对所有公平性目标的充分保证,也不能据此认定其已具有 EEG/BCI 应用效果。

来源:OpenReview · State space models · openreview.net