跳到正文
OpenReview · Representation learning· Lei Meng; Zhuang Qi; Lei Wu; Xiaoyu Du; Zhaochuan Li; Lizhen Cui; Xiangxu Meng·· 2025-01-01精选AI 评分71

提升联邦学习的全局泛化与局部个性化

Improving Global Generalization and Local Personalization for Federated Learning

AI 导读

基于摘要分析。本文研究异质客户端数据下,联邦学习难以同时优化全局模型泛化与本地模型个性化的问题,提出 personalized federated learning via cross silo prototypical calibration(pFedCSPC),通过个性化初始化、原型知识共享和跨来源特征校准增强客户端协作。 方法首先采用自适应聚合,为各客户端提供个性化初始模型;随后在客户端通过聚类学习类别表征模式,对各簇内的表征取平均形成局部原型,再由服务器聚合为全局原型。全局原型用于引导本地表征学习,作者认为这有助于缓解数据不平衡与过拟合。此外,cross-silo prototypical calibration(CSPC)模块借助对比学习,将不同来源的异质特征映射到统一空间,以提升全局模型泛化能力。摘要未给出具体损失形式、聚类与聚合细节,也未说明原型交互的隐私保护机制。 作者报告,在四个数据集上的性能比较、消融、深入分析及案例研究中,pFedCSPC 同时改善了全局泛化与局部个性化表现。摘要未提供数据集名称、划分协议、对照方法或数值结果,因而无法判断改善幅度与适用边界;实验协议、消融及统计信息尚未验证。 平台推测(待验证):该方法依赖可聚类的本地表征及跨客户端可对应的类别语义,可能对应 EEG 联邦学习中被试或站点差异与个性化适应之间的矛盾。自适应初始化和原型交互可作为候选复用模块,但需改造 EEG 编码器与通道对齐方式,并核对原型构建的标签依赖。低信噪比、少量试次或客户端类别覆盖不足,可能使原型不稳定;过强的统一空间约束也可能压制个体有效差异。可检验的假设是:在按被试划分客户端、采用相同数据与通信预算的 EEG 分类实验中,加入 CSPC 能否同时改善预先定义的全局评估与本地个性化评估,并与移除 CSPC 的版本比较。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是 pFedCSPC 如何用个性化初始化与跨客户端原型校准兼顾全局泛化和局部个性化;摘要报告两者均有改善,但收益幅度及其对 EEG 异质性的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net