跳到正文
OpenReview · State space models· Xingyu Lyu; Ning Wang; Yang Xiao; Shixiong Li; Tao Li; Danjue Chen; Yimin Chen·· 2025-01-01精选AI 评分74

双重分析优于单一分析:面向 non-iid 数据联邦学习投毒防御的模型权重与潜在空间分析

Two Heads Are Better than One: Model-Weight and Latent-Space Analysis for Federated Learning on Non-iid Data against Poisoning Attacks

AI 导读

基于摘要分析。本文研究 non-iid 数据条件下联邦学习的模型投毒防御,提出 GeminiGuard,通过联合模型权重分析与潜在空间分析,尝试解决良性客户端的异质更新容易与恶意更新混淆的问题。主要研究对象是通用联邦学习安全,而非 EEG 或 BCI。 在联邦学习中,恶意参与方可上传任意模型更新,干扰全局模型。作者指出,许多既有防御建立在客户端数据 iid 的假设之上;作者报告,其基准评估发现这些防御在多种 non-iid 场景下表现不足。GeminiGuard 的机制依据是:单独使用模型权重分析或潜在空间分析,难以覆盖不同投毒攻击与数据异质性,而两类分析可能提供互补信息。因此,方法结合一个新的模型权重分析组件与定制的潜在空间分析组件,并以轻量、通用、无监督为设计目标。摘要未说明两类分析的具体统计量、融合规则、潜在表示来源或服务器所需数据,相关实现与开销尚未验证。 作者报告,在多种实验设置下,GeminiGuard 能防御非定向和定向模型投毒攻击,包括自适应攻击,并持续优于所比较的 SOTA 防御。摘要未提供数据集、客户端划分、攻击者比例、异质性构造方式、对照方法名称或具体指标,因此目前不能量化收益,也不能判断不同协议间的可比性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 联邦训练中跨被试或跨机构差异同样导致良性更新被误判,双空间互补分析可能具有可复用价值。该假设依赖客户端更新可比较,以及能够获得适当的潜在表示;权重分析框架可作为候选模块,但潜在表示提取与融合判定需适配 EEG 任务及隐私约束。低信噪比、通道配置差异和客户端小样本可能进一步混淆良性与恶意更新。一个可检验的小实验是在固定跨被试划分、攻击比例与聚合协议下,比较双组件、各单组件及原有防御,同时记录任务 Accuracy、良性客户端误判率与通信或计算开销。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 GeminiGuard 如何联合模型权重与潜在空间分析,在 non-iid 条件下区分良性异质更新与投毒更新;其对联邦 EEG 训练的适用性尚未验证。

来源:OpenReview · State space models · openreview.net