超越人口统计均等:重新定义平等对待
Beyond Demographic Parity: Redefining Equal Treatment
基于摘要分析。该研究讨论机器学习公平性中的“平等对待”是否可以用“结果平等”来衡量,提出通过比较不同受保护群体的预测解释分布来形式化平等对待,而非仅考察 demographic parity(人口统计均等,也称统计均等)。其主要研究对象是通用机器学习公平性,不是 EEG 或 BCI 解码。 核心机制是先计算特征值对预测的影响,例如利用 Shapley values 将预测分解为各特征的贡献,再定义解释分布,并比较具有不同受保护特征的群体之间的解释分布。作者认为,结果平等与平等对待并不等价,因此人口统计均等不能忠实表达其所讨论的平等对待概念。这一论点应理解为作者提出的规范性定义与理论分析,而非对所有公平性定义的统一裁决。 作者报告分析了新定义的理论性质,并构建基于“平等对待检查器”AUC 的分类器双样本检验。这里的 AUC 用于群体解释分布的检验,不是原预测任务的 Accuracy 或其他性能指标。作者报告在合成数据和真实数据上研究了该形式化方案,并发布开源 Python 包 explanationspace,提供方法与教程。具体数据集、预测任务、样本量、数据划分、数值结果、解释计算配置及统计检验条件尚未验证。 平台推测(待验证):若 EEG/BCI 研究具有明确的受保护群体标签和可比较的特征解释,该框架可能用于检查性能相近的群体是否仍存在不同的模型特征依赖。可复用部分是解释分布比较与双样本检验;需改造部分是适合 EEG 时空特征的解释表示。低信噪比、通道差异、被试差异及小样本可能使检验反映采集条件或解释不稳定性,而非不平等对待。一个可检验的小实验是在固定解码模型和采集条件下,对照群体预测结果分布与解释分布的差异,并以重复划分检验结论稳定性;这仅是迁移假设,已有 EEG 相关工作尚未检索确认。
该研究将群体公平性的检验对象从预测结果分布扩展到特征贡献的解释分布,值得核对其理论定义与检验条件,但尚不能据此认定其能够验证 BCI 系统的公平性。
来源:OpenReview · State space models · openreview.net