通过差异化聚合改善联邦学习的泛化能力

基于摘要分析。本文研究非独立同分布（non-iid）数据下联邦学习的通信开销与泛化问题，提出 Federated Learning with Adaptive Local Steps（FedALS），通过为表示提取器和预测头设置不同的聚合频率，尝试减少通信并改善泛化。 理论方面，作者首先给出一个单轮联邦学习泛化界，将其与各客户端的局部泛化及数据分布异质性联系起来，并称该界更紧；摘要未说明比较对象和成立条件。作者进一步分析 R 轮联邦学习的泛化界及其与本地随机梯度下降（SGD）更新次数的关系。结合表示学习视角，作者推断：相较于预测头，降低表示提取器的聚合频率，有利于形成泛化能力更好的模型，尤其是在 non-iid 场景中。这里的表示提取器通常对应模型前部，预测头通常对应末部，但摘要未提供具体架构。 作者报告实验支持 FedALS 的有效性，并表示代码可用于复现；所给材料未提供数据集、客户端设置、数据划分、对照方法、性能数值及通信量统计口径，因此尚不能判断收益幅度及适用范围。泛化界假设、聚合频率的自适应规则、实验协议、消融及统计信息尚未验证，代码可用性亦需进一步核对。 平台推测（待验证）：其机制可能对应跨被试或跨会话 EEG 联邦学习中的分布异质性与通信瓶颈，前提是客户端能够采用可拆分为表示提取器和预测头的兼容模型。可复用的是分模块聚合思路；通道配置不一致、任务标签差异及客户端数据量差异可能需要额外适配。低信噪比和小样本可能使本地表示更新不稳定，降低表示提取器的聚合频率也可能加剧客户端漂移。一个可检验的小实验是在固定 EEG 任务、客户端划分、本地更新预算和总通信预算下，对比统一聚合频率与分模块聚合频率，联合记录任务性能和实际传输量。以上仅为迁移假设，已有 EEG 相关工作尚未检索确认。