面向联邦学习属性推断攻击的任务无关隐私保护表示学习
Task-Agnostic Privacy-Preserving Representation Learning for Federated Learning against Attribute Inference Attacks
基于摘要分析。本文研究联邦学习(FL)中不共享原始数据仍可能遭受的属性推断攻击,提出任务无关隐私保护表示学习方法 TAPPFL,旨在不预先指定 FL 任务的情况下,减少表示对敏感属性的暴露并保留数据效用。原研究对象是通用 FL 隐私防御,并非 EEG 或 BCI。 核心机制是两个互信息目标:一方面降低所学表示包含的设备数据敏感属性信息,另一方面尽可能保留表示与设备数据之间的信息,以维持后续 FL 任务的效用。摘要未说明互信息的估计方式、具体优化过程、表示模型结构,以及训练时是否需要敏感属性标签,这些实现条件尚未验证。 作者报告推导了针对最坏情况属性推断攻击的隐私保证,以及效用保留与隐私保护之间的内在权衡;还报告在多个数据集和应用中兼顾隐私、FL 效用与效率,并优于现有防御。摘要未提供数据集名称、任务、攻击者权限、划分协议、基线或定量指标,实验协议、消融及统计信息尚未验证;理论保证也需结合正文中的假设与边界理解。 平台推测(待验证):该机制可作为 EEG 联邦学习中抑制敏感属性泄露的候选思路,但原领域有效不等于 BCI 有效。可复用的是表示层的信息抑制与保留目标,需改造 EEG 编码器并明确攻击者可访问的信息。主要风险是敏感属性与任务信息相关,或低信噪比、跨被试差异及小数据使互信息估计不稳定。一个可检验的小实验是:在具备合规敏感属性标注的 EEG 数据上,固定跨被试划分、联邦客户端划分和攻击者权限,比较启用与不启用该表示机制时的任务 Accuracy 与属性推断攻击 Accuracy,检验隐私改善是否伴随不可接受的效用损失。已有 EEG 相关工作尚未检索确认。
值得关注的是 TAPPFL 将任务无关的表示保留与敏感属性抑制纳入互信息框架,并推导隐私与效用的权衡;其保证的适用条件及对 EEG 联邦学习的价值仍需验证。
来源:OpenReview · Representation learning · openreview.net