面向数据不平衡客户端联邦学习的跨孤岛特征空间对齐
Cross-Silo Feature Space Alignment for Federated Learning on Clients with Imbalanced Data
基于摘要分析。该研究关注联邦学习中客户端数据不平衡造成的局部特征空间分区不一致及模型聚合问题,提出跨孤岛特征空间对齐方法 FedFSA,通过客户端内部原型空间学习与跨客户端特征对齐,学习统一的特征空间。原论文的主要研究对象是通用联邦学习,并非 EEG 或 BCI。 FedFSA 包含两个模块:in-silo prototypical space learning(ISPSL)使用预定义文本嵌入约束表征学习,以改善不平衡数据上的表征可区分性;随后通过方差迁移构建原型空间,校准少数类特征分布,并为后续对齐提供信息。cross-silo feature space alignment(CSFSA)利用 ISPSL 学得的增强特征训练具有泛化能力的映射,将不同来源的特征对齐到共同空间。作者将其与知识蒸馏引导局部训练、聚合前校准局部模型的路线区分开,强调处理不平衡表征引起的聚合不适定问题。 作者报告,在三个数据集的实验中,FedFSA 改善了不平衡条件下不同特征空间的一致性,并取得优于现有方法的性能。摘要未提供数据集名称、不平衡构造方式、客户端划分、具体基线、指标或提升幅度;文本嵌入来源、方差迁移计算方式、映射训练与聚合流程,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 联邦分类中的客户端存在类别不平衡与表征错位,原型约束和共同空间映射可能提供可复用机制,但这是迁移假设,而非已证实的 BCI 效果。其依赖类别监督、类别对应关系及可用的文本语义锚点;EEG 编码器、任务文本嵌入和方差估计需适配。低信噪比、被试差异、通道不一致及少数类小样本可能使原型或方差估计失真,强制对齐也可能压制有效的个体差异。可在固定客户端与数据划分下开展小规模 EEG 联邦分类实验,比较基础聚合方法与加入原型约束、方差迁移、完整对齐的版本,并同时检查 Balanced Accuracy 和少数类表现,以检验收益是否来自对齐机制。相关 EEG 工作尚未检索确认。
值得核对 FedFSA 如何以文本嵌入约束、方差迁移和跨客户端特征映射缓解不平衡表征导致的聚合问题,但其效果幅度及向 EEG 联邦学习迁移的可行性尚未验证。
来源:OpenReview · State space models · openreview.net