跳到正文
OpenReview · Representation learning· Caridad Arroyo Arevalo; Sayedeh Leila Noorbakhsh; Yun Dong; Yuan Hong; Binghui Wang·· 2023-01-01精选AI 评分76

面向联邦学习属性推断攻击的任务无关隐私保护表征学习

Task-Agnostic Privacy-Preserving Representation Learning for Federated Learning Against Attribute Inference Attacks

AI 导读

基于摘要分析。该研究关注联邦学习(FL)中不共享原始数据仍可能泄露敏感属性的问题,提出任务无关隐私保护表征学习方法 TAPPFL,旨在抑制属性推断攻击,同时保留支持下游 FL 任务的信息。 核心机制是两个互信息目标:一方面减少各设备数据表征中关于私有属性的信息,另一方面尽可能保留表征与设备原始数据之间的信息,以维持任务效用。这里“任务无关”指不必预先知道 FL 任务,并不意味着不需要指定敏感属性;属性监督需求及其具体实现尚未验证。作者称推导了针对最坏情形属性推断攻击的隐私保证,以及效用保持与隐私保护之间的内在权衡,具体假设、保证范围和互信息估计方法需查阅全文核对。 作者报告,在多个数据集和应用上的实验显示,TAPPFL 能保护隐私、维持 FL 效用,并具有计算效率,相较已有防御方法表现更优。摘要未列出数据集名称、数据划分、攻击者能力、对照方法及具体指标,因而不能据此量化优势;实验协议、消融及统计信息尚未验证。摘要提供了代码与完整版入口,但未核验实现和复现条件。 平台推测(待验证):若联邦 EEG 表征同时携带任务信息与需保护的个体属性,双重互信息目标可能提供可复用的隐私约束;仍需适配 EEG 编码器、敏感属性监督和客户端划分。低信噪比、小样本、通道差异,以及敏感属性与任务标签相关,都可能使隐私抑制损害任务效用。一个可检验的小实验是在固定 Cross-subject 划分、客户端配置和属性标签条件下,对比普通 FL 与加入该约束的 FL,同时测量任务指标和独立属性攻击器的推断性能,检验隐私改善是否伴随不可接受的效用下降。上述属于迁移假设,并非论文已验证的 EEG 结果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其以双重互信息目标实现任务无关隐私表征的机制,以及最坏情形属性推断保证的适用条件,但其在 EEG 联邦学习中的效用与隐私权衡尚未验证。

来源:OpenReview · Representation learning · openreview.net