FLGuardian:通过细粒度检测防御联邦学习中的模型投毒攻击
FLGuardian: Defending Against Model Poisoning Attacks via Fine-Grained Detection in Federated Learning
基于摘要分析。本文研究联邦学习(FL)中的非定向及后门模型投毒攻击,提出层空间防御方法 FLGuardian,通过逐层识别良性客户端并汇总信任分数,选择客户端参与全局模型更新。原研究对象是联邦学习安全,而非 EEG 或 BCI。 机制上,FLGuardian 在每一层结合客户端之间的成对余弦距离、成对欧氏距离与聚类算法进行检测;随后依据各层检测结果为客户端计算信任分数,较深层获得更高权重,最终选取分数最高的若干客户端更新全局模型。相对于摘要所述的整体模型空间检测或忽略层间差异的防御,其主要区别是逐层检测与深度加权汇总。距离的具体计算对象、聚类算法、权重形式及客户端选择数量尚未验证。 作者报告,在针对七种模型投毒攻击、与九种典型防御方法比较时,FLGuardian 在多数情形下表现更好。具体而言,在 CIFAR-10 的层空间后门攻击 LPattack 条件下,作者报告其 Backdoor Success Rate(BSR)低于 3%,其他防御的 BSR 高于 93%;作者还报告其可抵御针对 FLGuardian 定制的自适应攻击。上述结果不能外推至所有联邦学习设置,攻击者比例、数据划分、客户端采样、正常任务性能、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 跨被试联邦训练采用相同结构的分层模型,该机制或可用于检测恶意客户端更新,但原领域有效不等于 BCI 有效。可复用的是逐层距离检测与客户端信任汇总;需评估或改造层权重和聚类阈值,避免将低信噪比、通道差异及小样本引起的正常被试异质性误判为投毒。一个可证伪的小实验是在固定跨被试划分与攻击配置下,对比逐层检测和整体模型检测,同时记录正常任务 Accuracy、BSR 与良性客户端误拒率。已有 EEG 相关工作尚未检索确认。
FLGuardian 将联邦学习投毒检测从整体模型细化到各层,并以层级检测结果筛选客户端,值得核对其对层空间后门攻击的防御效果及对正常客户端异质性的敏感性,但 EEG 联邦学习适用性尚未验证。
来源:OpenReview · State space models · openreview.net