跳到正文
OpenReview · Representation learning· Lei Yu; Lingfei Wu·· 2020-01-01精选AI 评分70

通过分组鲁棒聚合实现 Byzantine 鲁棒联邦学习

Towards Byzantine-Resilient Federated Learning via Group-Wise Robust Aggregation

AI 导读

基于摘要分析。本文研究联邦学习(FL)在 Byzantine 故障及恶意参与方攻击下的鲁棒性,提出分组鲁棒聚合框架:将模型参数聚类为不同组,并在各组内执行鲁棒聚合,以缓解实际参与方数据非独立同分布、梯度方差较大与鲁棒统计方法假设之间的不匹配。 原论文主要面向通用 FL 防御,而非 EEG 或 BCI。其机制是在已有 Byzantine-robust 聚合方法外引入参数分组,不是直接按参与方聚类。摘要未说明参数聚类依据、分组更新方式、具体聚合算法及额外计算成本,相关细节尚未验证。 作者报告,将该框架与多种常用 Byzantine-robust 聚合方法结合后,在能够绕过这些方法原始配置防御的攻击评估中,分组聚合提高了对 Byzantine 故障的鲁棒性。摘要未提供数据集、模型、参与方数量、恶意参与方比例、攻击细节或量化指标;实验协议、消融及统计信息尚未验证,因此不能据此推断对任意攻击、后门或异质数据均有效。 平台推测(待验证):若跨被试 EEG 联邦训练同时存在正常被试差异与恶意模型更新,参数分组或可作为已有鲁棒聚合器的可复用模块;仍需明确参数分组依据,并适配 EEG 任务模型及客户端划分。低信噪比、通道配置差异和小样本可能使正常更新呈现强异质性,导致防御误伤正常客户端,或削弱对恶意更新的区分。一个可证伪的小实验是在固定 EEG 数据划分、模型、攻击和恶意客户端比例下,仅改变是否启用参数分组,对照无攻击与有攻击条件下的任务指标及聚合开销。该设想不代表已验证的 BCI 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

该研究将模型参数分组与已有 Byzantine-robust 聚合方法结合,值得核对其在非独立同分布与参与方梯度高方差条件下的防御收益,但摘要尚不足以判断具体攻击条件下的适用边界。

来源:OpenReview · Representation learning · openreview.net