跳到正文
OpenReview · Representation learning· Songjie Xie; Youlong Wu; Jiaxuan Li; Ming Ding; Khaled B. Letaief·· 2024-01-01精选AI 评分76

以隐私促进公平:利用局部差分隐私的信息混淆实现公平表征学习

Privacy for Fairness: Information Obfuscation for Fair Representation Learning with Local Differential Privacy

AI 导读

基于摘要分析。本文研究通用机器学习中隐私保护与算法公平性的关系,提出结合信息瓶颈(IB)与局部差分隐私(LDP)的信息混淆框架,并进一步构建同时满足公平性与 LDP 要求的变分表征编码方法;研究对象并非 EEG 或 BCI。 核心机制是在编码过程中引入 LDP 随机化器。作者的理论分析指出,敏感信息的披露受到随机化器隐私预算的约束,使 IB 框架中的优化能够抑制敏感信息,同时保留目标任务所需效用。相比主要依赖经验观察来讨论隐私与公平关系的研究,本文强调理论刻画。作者还提出非对抗式训练的变分编码方法,并说明其不需要引入变分先验;具体目标函数、随机化器形式、公平性定义及理论成立条件尚未验证。 作者在摘要中表示将通过广泛实验验证理论结果,并展示兼顾 LDP、公平性和任务效用的能力,但所给材料未提供数据集、隐私预算取值、对照基线、评估协议或量化指标,不能据此判断收益幅度。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务需要保留任务信息,同时限制表征泄露特定敏感属性,该框架可能提供可检验的机制假设,但降低敏感信息披露不等于改善跨被试泛化。可复用部分是随机化编码与 IB 优化思路,需改造 EEG 编码器,并明确敏感属性、监督信息和公平性指标。低信噪比、小样本及敏感属性与任务标签相关时,随机化可能同时损害有效信号。一个小规模检验是在固定 Cross-subject 划分下,对比不加随机化的编码器与不同隐私预算的版本,同时评估任务表现、敏感属性可预测性及预先定义的公平性指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何以 LDP 隐私预算约束敏感信息披露,并在 IB 框架下兼顾公平性与任务效用;该理论关系及非对抗式编码实现具有阅读价值,但具体实验收益尚未验证。

来源:OpenReview · Representation learning · openreview.net