跳到正文
OpenReview · Representation learning· Yuan Yao; Lixu Wang; Jiaqi Wu; Jin Song; Simin Chen; Zehua Wang; Zijian Tian; Wei Chen; Huixia Li; Xiaoxiao Li·· 2026-09-17精选AI 评分72

FedRE:面向模型异构联邦学习的表征纠缠框架

FedRE: A Representation Entanglement Framework for Model-Heterogeneous Federated Learning

AI 导读

基于摘要分析。FedRE 研究客户端模型架构不一致时的联邦学习问题,通过上传聚合后的“纠缠表征”及对应标签编码训练全局分类器,试图兼顾模型性能、隐私保护与通信开销。主要研究对象是通用模型异构联邦学习,并非已验证的 EEG 或 BCI 方法。 核心机制是客户端使用归一化随机权重,将本地表征聚合为单个纠缠表征,并以同一组权重聚合对应的 one-hot 标签编码。服务器据此训练全局分类器,使聚合表征接受跨类别监督;随机权重每轮重新采样以增加多样性。作者认为,这可缓解全局分类器的过度自信,使决策边界更平滑。摘要未说明不同客户端表征维度如何对齐、具体损失函数,以及全局分类器如何服务于各客户端预测。 作者报告,实验展示了性能、隐私保护与通信开销之间的有效权衡,并称单个聚合表征及标签编码的上传方式可降低表征反演攻击风险和通信开销。但摘要未提供数据集、数据异质性划分、客户端架构、对照方法或量化结果;实验协议、消融及统计信息尚未验证。聚合上传不等同于形式化隐私保证,需核对攻击者能力、攻击方法及隐私评估条件。摘要提供了代码链接,但实现与复现条件尚未核验。 平台推测(待验证):若跨被试或跨设备 EEG 协作训练需要使用不同客户端模型,FedRE 的表征级共享可作为候选机制。该假设依赖共享标签语义及可兼容的表征空间;可复用随机加权的表征—标签配对机制,但需改造 EEG 编码器与表征对齐模块。低信噪比、通道差异和小样本可能使聚合掩盖类别信息。一个可证伪的小实验是在固定被试与数据划分、相同本地训练预算下,对比本地训练与 FedRE,联合评估分类指标、上传字节数及表征反演风险;原领域有效不代表 EEG 有效,已有 EEG 相关工作尚未检索确认。

阅读价值

FedRE 将本地表征与标签按同一随机权重聚合,为模型异构联邦学习提供了可核对的知识共享机制,值得重点核验其隐私攻击评估及性能—通信开销权衡。

来源:OpenReview · Representation learning · openreview.net