FLARE:利用潜在空间表征防御联邦学习中的模型投毒攻击
FLARE: Defending Federated Learning against Model Poisoning Attacks via Latent Space Representations
基于摘要分析。本文研究联邦学习中恶意客户端通过提交精心构造的本地模型更新来污染全局模型的问题,提出鲁棒聚合机制 FLARE,以模型倒数第二层表征(penultimate layer representations,PLRs)刻画更新受到的对抗影响,而非仅分析模型参数。 机制上,FLARE 根据各本地模型更新之间的两两 PLR 差异评估可信度。在诚实客户端占多数的假设下,远离良性模型簇的更新被赋予较低信任分数;服务器随后按信任分数加权聚合更新,并更新全局模型。作者报告,PLRs 比基于模型参数的方案更有利于区分恶意与良性模型;在其评估设置中,FLARE 能抵御语义后门、木马后门及非定向攻击,并维护联邦学习的准确率。摘要未提供数据集、具体指标数值、对照方法及数据划分,表征提取所用输入、信任分数计算公式、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将该机制用于跨被试 EEG 联邦学习,可复用“表征差异—可信度估计—加权聚合”流程,但需适配 EEG 编码器,并核对服务器获取表征所需的数据及隐私条件。核心假设是恶意更新造成的表征偏离能够与正常被试差异区分;低信噪比、通道配置差异及小样本可能使诚实客户端也偏离良性簇,导致错误降权。一个可检验的小实验是在固定跨被试划分和诚实客户端占多数的条件下,分别设置无攻击与模型投毒情境,对比普通聚合和 FLARE,联合检查任务性能、攻击效果及诚实客户端被降权情况。已有 EEG 相关工作尚未检索确认。
值得阅读的是 FLARE 以倒数第二层表征差异而非仅以参数差异评估客户端更新可信度的聚合机制,但其在非独立同分布数据及 EEG 联邦学习中的适用性尚未验证。
来源:OpenReview · State space models · openreview.net