跳到正文
OpenReview · State space models· Yi-Chung Chen; Hsi-Wen Chen; Shun-Guei Wang; Ming-Syan Chen·· 2023-09-22精选AI 评分73

SPACE:用于联邦学习贡献评估的单轮参与方融合

SPACE: Single-round Participant Amalgamation for Contribution Evaluation in Federated Learning

AI 导读

基于摘要分析。本文研究联邦学习(FL)中参与方贡献评估的计算成本问题,提出 Single-round Participants Amalgamation for Contribution Evaluation(SPACE),以联邦知识融合和基于原型的模型评估降低评估开销,支持在单个通信轮次内评估参与方。 原问题与机制:参与方贡献可用于激励机制、鲁棒性增强及客户端选择。既有方法主要依赖 Shapley value,其计算即使采用基于梯度的模型重建和评估截断仍较昂贵。SPACE 的两个核心组件为 Federated Knowledge Amalgamation 与 Prototype-based Model Evaluation;摘要称它们使评估开销不再依赖验证集规模,并实现单轮评估。知识如何融合、原型如何构建、是否依赖标签及额外数据、贡献分数如何计算,尚未验证。 结果与证据:作者报告,在文中实验条件下,SPACE 的运行时间和 Pearson’s Correlation Coefficient(PCC)优于所比较的现有方法,并在客户端重新加权和客户端选择应用中表现有效。摘要未给出数据集、客户端数量、划分协议、对照方法、具体数值及 PCC 的参照对象,因此不能判断收益幅度,也不能将 PCC 等同于下游任务 Accuracy。实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但代码内容、运行依赖与可复现性尚未核验。 平台推测(待验证):假设 EEG 联邦学习需要按客户端贡献进行选择或加权,SPACE 的低开销评估机制可能具有参考价值,但原领域结果不代表 BCI 有效性。可考察复用知识融合和原型评估框架,并针对 EEG 表征、类别不平衡及客户端数据分布改造原型构建与贡献参照。低信噪比、跨被试差异、通道不一致和小样本可能使原型难以代表真实贡献。一个可检验的小实验是在固定 EEG 数据划分、客户端预算和下游解码器的条件下,比较 SPACE 与 Shapley value 近似评估的耗时、贡献排序一致性及客户端选择后的解码表现;需核对评估数据与测试数据的隔离。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其以知识融合与原型评估降低联邦学习参与方贡献评估成本的思路,但效率与评估一致性的具体证据,以及对联邦 EEG 场景的适用性仍需核对。

来源:OpenReview · State space models · openreview.net