跳到正文
OpenReview · State space models· Hengyi Wang; Weiying Xie; Jitao Ma; DaixunLi; Yunsong Li·· 2024-07-21精选AI 评分71

FedSLS:探索显著性潜在空间中的联邦聚合

FedSLS: Exploring Federated Aggregation in Saliency Latent Space

AI 导读

基于摘要分析。本文研究图像领域联邦学习中的客户端数据异质性问题,提出跨客户端显著性潜在空间特征聚合方法 FedSLS,以缓解参数聚合偏差及其带来的收敛与准确率问题;并非直接面向 EEG 或 BCI 的研究。 方法使用 Guided BackPropagation(GBP)将深度模型转化为视觉保真编码器,并以显著性潜在特征进行聚合。相较于仅在本地优化中加入正则化或改进服务器参数聚合,作者强调对跨客户端特征的利用。作者认为,GBP 对标签不敏感,因此每个客户端只需提取一次显著性特征。显著性特征的具体定义、聚合公式、对齐方式及其与模型更新的关系,摘要未展开,尚未验证。 作者报告,在 CIFAR-10、强异质性参数 α=0.05 的评估条件下,FedSLS 的 Accuracy 为 63.43%,优于所比较的基线。摘要将差距表述为“6% 至 23%”,但未明确是相对提升还是百分点差,不能据此换算。α 对应的数据划分机制、客户端数量、参与比例、基线配置、通信成本、消融及统计信息尚未验证。联邦训练不共享原始数据,也不能直接证明显著性特征传输具备隐私保障。 平台推测(待验证):若显著性表征能反映客户端间可共享的任务特征,该思路可能用于缓解 EEG 联邦学习的跨被试异质性。可考察复用特征层聚合思路,但需将视觉编码与 GBP 表征改造为适配 EEG 时间、通道结构的形式。低信噪比、伪迹、通道差异及小样本可能使一次性显著性特征不稳定;标签不敏感也不等于跨被试稳定。一个可检验的小实验是,在固定跨被试客户端划分、骨干模型与通信预算下,对比参数聚合与显著性特征聚合,并测量通道扰动前后的表征稳定性及分类 Accuracy。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 FedSLS 如何用一次性客户端显著性特征构建聚合依据,以及其在强数据异质性条件下的收益;向 EEG 联邦学习的迁移仍属待验证假设。

来源:OpenReview · State space models · openreview.net