跳到正文
OpenReview · State space models·· 2026-07-22精选AI 评分78

基于函数空间正则化的去中心化联邦学习

Decentralized Federated Learning with Function Space Regularization

AI 导读

基于摘要分析。本文研究去中心化联邦学习中不同客户端模型如何达成一致,提出 FedFun:在函数空间而非参数空间施加一致性正则,从而支持参数化与非参数化学习器,以及客户端采用不同模型架构的情况。 核心机制是在假设的 Hilbert 空间中,将客户端间的一致性表述为正则化惩罚,并通过近端梯度更新促进相邻模型的函数相似性。与直接约束模型参数的方法相比,其机制上的特点是将一致性建立在模型所表示的函数上;但函数距离如何计算、是否依赖共享输入或参考样本、正则项的具体形式与通信开销,尚需全文核对。作者报告在其所述较温和假设下给出收敛保证,覆盖通常意义上的非凸客户端目标及异构架构情形;具体假设与收敛结论范围尚未验证。 作者报告在表格数据集上开展概念验证,使用神经网络与决策树实现 FedFun,并包含不同客户端采用不同模型类型的实验。摘要未提供数据集名称、客户端划分、对照基线或性能数值,实验协议、消融及统计信息尚未验证,不能据此判断其相对现有方法的性能优势。 平台推测(待验证):若函数空间距离能在兼容的 EEG 输入与任务输出上可靠估计,该机制可能用于跨被试或跨机构联邦学习中的模型架构异构问题。可复用部分是函数一致性正则与邻居更新框架,需改造部分是 EEG 输入表示、通道对齐及距离估计所需的数据条件。低信噪比、通道差异和小样本可能使函数距离不稳定;被试间任务分布差异也可能使强一致性约束损害个体表现。一个可检验的小实验是在固定 EEG 任务与被试划分下,将被试设为客户端并配置不同模型架构,比较启用与关闭函数正则的表现,同时核对距离估计所用数据与测试集隔离。相关 EEG 工作尚未检索确认。

阅读价值

FedFun 将去中心化客户端的一致性约束从参数空间转向函数空间,值得核对其对异构模型的适用条件与收敛分析,但摘要中的表格数据概念验证尚不能支持 EEG/BCI 有效性。

来源:OpenReview · State space models · openreview.net