排序中存在代表性偏差的群体检测
Detection of Groups with Biased Representation in Ranking
基于摘要分析。本文研究排序结果中的群体公平性:当受保护群体的定义事先未知时,如何从 top-k 排序条目中发现代表性存在偏差的群体。核心贡献是针对两类公平性度量设计高效搜索算法,并使用 Shapley values 解释群体代表性偏差。 已有相关定义关注不同受保护群体在 top-k 条目中的代表性,但通常需要先给定群体。本文将群体发现纳入问题本身;由于候选群体数量可能呈指数增长,搜索效率成为关键挑战。作者分别针对全局代表性界限(global representation bounds)与比例代表性(proportional representation)提出搜索算法。摘要未给出这两类度量的数学定义、群体描述方式、搜索剪枝机制或计算复杂度,相关细节尚未验证。 解释部分利用 Shapley values 分析群体代表性偏差,但其归因对象、价值函数及计算或近似方式在摘要中未展开。作者报告,实验展示了方法的可扩展性及所提算法的实用性;数据集、排序任务、top-k 范围、对照方法、运行时间及量化结果均尚未验证,实验协议、消融及统计信息也尚未验证。 本文主要研究对象是排序公平性审计,而非表示学习模型或 EEG/BCI 解码。现有材料没有提供与神经信号处理的具体机制对应,不据此推断其在 EEG/BCI 中的有效性。阅读全文时宜优先核对群体搜索空间、公平性阈值的设定,以及 Shapley values 解释所依赖的定义。
该研究将排序公平性审计从预先指定受保护群体扩展到搜索代表性偏差群体,并结合 Shapley values 解释偏差,值得核对其搜索效率及公平性定义的适用边界。
来源:OpenReview · Representation learning · openreview.net