反事实公平表征
Counterfactually Fair Representation
基于摘要分析。本文研究高风险机器学习应用中的反事实公平性(Counterfactual Fairness,CF),提出一种使用全部可用特征训练模型的算法,旨在避免为满足公平性而直接舍弃敏感属性的所有后代特征。作者报告,该方法训练的模型能够满足 CF,并提供理论与实证支持;摘要未披露具体评估协议与结果数值。 CF 依赖底层因果图,要求同一个体在真实世界与其所属社会群体发生改变的反事实世界中,获得相同的预测结果。摘要引用既有研究指出,不使用因果图中敏感属性的后代特征,是满足 CF 的一个充分条件。因此,一种直接策略是仅保留非后代特征。本文的主要研究对象是公平表征学习,而非 EEG 解码或 BCI;其方法定位是在保留全部可用特征的情况下满足这一因果公平标准。 作者将方法与两类既有思路区分:一类排除全部后代特征,另一类使用全部特征,但据作者所述缺乏满足 CF 的理论保证。本文声称同时实现全特征利用与公平性保证,但摘要没有给出表征构造、损失函数、因果模型估计方式或理论适用条件。需阅读全文核对保证是否依赖特定因果结构、结构方程及反事实生成假设,以及因果模型误设时的表现。实验数据、划分、对照基线、公平性与预测效用指标、消融及统计信息尚未验证。 当前材料没有提供该算法与 EEG/BCI 的具体机制对应,也未提供相关应用证据,因此不将其表述为已验证的神经信号方法。已有 EEG 相关工作尚未检索确认。
值得核对其如何在利用敏感属性后代特征的同时满足反事实公平性,尤其是理论保证所依赖的因果假设及其与实验设置的对应关系。
来源:OpenReview · Representation learning · openreview.net