OpenReview · State space models· Giandomenico Cornacchia; Vito Walter Anelli; Fedelucio Narducci; Azzurra Ragone; Eugenio Di Sciascio·· 2023-01-01精选AI 评分72
用于决策模型公平性评估的反事实推理
Counterfactual Reasoning for Decision Model Fairness Assessment
AI 导读
基于摘要分析。本文研究机器学习决策模型的公平性评估,提出在 fairness under unawareness(决策时不显式使用敏感属性)的情境下,利用反事实推理揭示模型的不公平行为。主要贡献是引入反事实样本视角,并提出两个借助外部 oracle 分析反事实样本估计敏感信息的指标。 其研究对象是面向个体的决策模型,而非神经信号解码。反事实关注个体特征需要发生怎样的最小变化,才能使模型输出转为有利结果;本文据此考察模型的公平性,而不只分析离散、有限的预测结果空间。摘要未提供反事实生成算法、最小变化的度量方式、两个指标的数学定义,以及外部 oracle 的构建与误差处理方式,这些均尚未验证。 作者报告,在三个数据集上的实验表明,该方法能够揭示所评估的先进机器学习模型与去偏模型中的不公平行为。摘要未列出数据集名称、划分协议、具体对照方法、指标数值或统计不确定性,因此尚不能判断效果大小及其适用范围;实验协议、消融及统计信息尚未验证。 材料提供了源码链接,但实现细节与复现条件尚未核查。该研究属于通用决策公平性评估,摘要没有建立与 EEG 或 BCI 的具体机制对应关系,不能据此推断其对神经信号解码或跨被试公平性的有效性。
阅读价值
该研究值得关注之处在于利用反事实样本及外部 oracle 估计的敏感信息审计决策公平性,可用于核对不显式使用敏感属性的模型是否仍表现出不公平行为,但指标定义与有效性边界尚需全文验证。
来源:OpenReview · State space models · openreview.net