跳到正文
OpenReview · Representation learning· Yue Cui; Chen Ma; Kai Zheng; Lei Chen; Xiaofang Zhou·· 2023-01-01精选AI 评分76

可控通用公平表征学习

Controllable Universal Fair Representation Learning

AI 导读

基于摘要分析。本文研究面向公平性 Web 服务的用户表征学习:当下游使用者关心的受保护群体无法预先确定时,如何使可迁移表征对通用敏感属性集合满足公平约束,同时保留下游预测能力。作者提出 controllable universal fair representation learning(CUFRL),主要贡献是互信息视角下的公平性界及约束处理规模的理论缩减。 核心机制:既有方法通常针对一个或少数预定义敏感属性去偏,而本文设定需要处理指数数量的敏感属性。作者报告,所推导的界可在维持下游任务准确性的同时保证通用敏感属性集合的 parity,并从理论上将需要处理的敏感属性数量由指数级降至线性。摘要未给出属性集合的具体构造、parity 的数学定义、互信息估计方式及“可控”的实现,因此不能据此解释为对任意未知群体的无条件公平保证。 结果与核对事项:作者报告,在两个公开真实世界数据集上,CUFRL 相比基线获得显著更好的准确性—公平性权衡。数据集名称、任务、划分、基线、具体指标与数值,以及显著性的统计依据均尚未验证;实验协议、消融及统计信息需结合全文核对。理论界成立的假设、计算成本及下游任务信息保留方式,也是复现前的关键检查项。 平台推测(待验证):其潜在 EEG 对应点是表征中的群体敏感信息控制,而不是直接提升 BCI 解码能力。假设数据具备任务标签和可用于公平性评估的群体属性,可考虑复用公平约束思路,但需改造 EEG 编码器并核对属性集合是否符合理论前提;公平性也不等同于跨被试泛化。低信噪比、通道差异和小样本可能使互信息估计不稳定,去除与任务相关的群体信息还可能损害解码。一个可检验的小实验是在固定跨被试划分下,对比同一编码器加入与不加入 CUFRL 约束时的任务 Accuracy 和原文定义的群体公平指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 CUFRL 如何通过互信息界将通用公平约束的处理规模从指数级降至线性,以及该理论保证在何种假设下支持下游任务的准确性—公平性权衡。

来源:OpenReview · Representation learning · openreview.net