跳到正文
OpenReview · Representation learning· Connor Mclaughlin; Lili Su·· 2024-09-26精选AI 评分73

通过特征分布适配实现个性化联邦学习

Personalized Federated Learning via Feature Distribution Adaptation

AI 导读

基于摘要分析。本文研究客户端数据异质、且本地数据有限时的个性化联邦学习问题,提出 pFedFDA:将表示学习表述为生成式建模任务,再通过适配全局与本地特征分布构建个性化模型。主要研究对象是计算机视觉基准,并非 EEG 或 BCI。 机制上,论文沿用共享表示学习与个性化分类器训练的分解思路,但不完全依靠有限的本地数据学习分类器。其表示训练使用基于全局特征分布的分类器,随后将全局生成式分类器适配至各客户端的本地特征分布,以应对个性化分类器学习中的偏差—方差权衡。摘要未说明分布参数化方式、适配公式、损失函数及通信流程,这些实现细节尚未验证。 作者报告,在计算机视觉基准的数据稀缺设置下,该方法能够适应复杂分布偏移,并相对作者所比较的当前先进方法取得显著改进。摘要未提供具体数据集、客户端划分、基线名称、指标或数值,因此不能量化收益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将不同被试或会话作为联邦客户端,共享表示与本地特征分布适配可能对应 EEG 中跨被试、跨会话的分布差异。可复用的是全局生成式分类器向本地分布适配的思路;需改造 EEG 编码器,并核对其对本地标签、特征分布形式和样本规模的要求。低信噪比、通道配置差异及极少本地样本可能使分布估计不稳,且特征分布适配不必然解决类别条件关系变化。一个可检验的小实验是在固定 EEG 任务、统一通道和相同客户端划分下,比较共享模型、本地分类器与 pFedFDA,并逐步减少本地训练样本,观察个性化收益是否稳定;不得以测试样本估计训练期分布。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是 pFedFDA 通过将全局生成式分类器适配到本地特征分布,处理小样本个性化分类中的偏差—方差权衡;其在 EEG 客户端异质性下的收益尚未验证。

来源:OpenReview · Representation learning · openreview.net