跳到正文

算法、任务与模态

Federated Learning 最新动态

Federated Learning 研究索引;按可核对的标签归档,不以热度评价质量。

143 条精选近 30 天 6 条共收录 202 条

更新

精选归档 · 第 8 页

1月1日周六第 141–143 条
  1. OpenReview · Representation learning76

    基于自监督的联邦图表示学习

    基于摘要分析。本文研究联邦图表示学习(FedGRL)中标签不足与下游任务异质并存的问题:跨机构客户端拥有大量无标签图数据、有限或没有标签,且各自下游类别标签域不同。作者提出基于模型插值的联邦学习框架,通过自监督目标协同优化共享全局模型,并借助客户端本地模型引入下游任务监督。 作者使用自监督图表示学习方法 BGRL 实例化该框架。其主要机制是协调共享表示学习与本地任务监督,而非直接要求客户端共享统一的下游类别空间。模型插值的具体形式、监督如何作用于全局模型,以及通信与优化流程尚未验证;联邦训练本身也不等于具有形式化隐私保证。 作者报告,在将 Twitch Gamer Network 改造为跨地域客户端场景的实验中,相对传统监督式联邦学习目标平均提升 6.1%,相对各客户端独立自监督训练平均提升 1.7%。作者还构建了兼具标签不足和下游标签域异质特征的 Amazon Co-purchase Networks 数据集,并报告相对上述两类基线分别平均提升 11.5% 和 1.9%。摘要未明确这些增益对应的指标、相对百分比或百分点、平均方式及数据划分,不能将其直接解释为 Accuracy 的百分点提升。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 数据已被表示为通道或脑区图,且不同中心拥有大量无标签记录及不同任务标签,该框架可能对应跨中心标签稀缺和任务异质问题。可复用的是全局自监督与本地监督协同的思路;图构建、输入编码和本地任务头需要适配 EEG。低信噪比、通道不一致、跨被试差异及本地小数据可能造成负迁移。一个可检验的小实验是在统一 EEG 图构建和数据划分下,比较该框架、本地独立自监督和监督式联邦学习,并控制各客户端标签预算,检验共享训练是否稳定优于本地训练。该推断不构成 EEG/BCI 有效性证据,已有相关工作尚未检索确认。

    阅读价值:值得核对其通过模型插值结合全局自监督与本地任务监督的机制,以及在标签不足、客户端标签域异质条件下相对本地自监督训练的收益;其 EEG/BCI 适用性尚未验证。

1月1日周三
  1. OpenReview · Representation learning73

    面向纵向联邦学习的大规模核方法

    基于摘要分析。该研究面向多个数据持有方分别掌握同一批样本不同特征的纵向分割场景,提出 vertical federated kernel learning(VFKL),旨在兼顾隐私约束与非线性核学习。核心方法是用随机特征近似核函数,再通过专门设计的双随机梯度,以联邦方式更新预测函数。 机制与理论:随机特征为核函数提供近似表示,是该方法面向大规模学习的关键路径。作者报告,VFKL 可达到次线性收敛率,并在常见的半诚实假设下保证数据安全;摘要还声称更新过程不泄露数据与模型隐私。具体核函数、随机特征构造、双随机梯度的采样方式、通信流程及隐私保证的覆盖范围尚未验证,不能据此认定其满足差分隐私或抵御恶意参与方攻击。 实验证据:作者报告在多个数据集上进行了实验,结果支持方法的有效性与相对优势;摘要未给出数据集名称、任务、划分协议、对照方法或量化指标,因此尚不能判断优势幅度及适用规模。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 与其他模态的特征由不同机构持有,且能够合法、准确地对齐同一批样本,纵向联邦核学习可能用于联合非线性预测。可复用的部分是随机特征近似与联邦优化,需改造或核对的部分包括样本对齐、EEG 特征提取、通信与威胁模型。它并不直接解决跨被试数据分布差异;低信噪比、小样本及模态缺失也可能削弱效果。一个可证伪的小实验是在样本对齐的 EEG 多模态数据上按模态划分持有方,固定划分与核设置,对照集中式近似核方法和单方特征模型,评估预测性能与通信开销。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

    阅读价值:值得核对 VFKL 如何结合随机特征与双随机梯度,在纵向分割数据上实现非线性核学习,以及其收敛与隐私保证所依赖的假设;其对 EEG/BCI 的适用性尚未验证。

  2. OpenReview · Representation learning70

    通过分组鲁棒聚合实现 Byzantine 鲁棒联邦学习

    基于摘要分析。本文研究联邦学习(FL)在 Byzantine 故障及恶意参与方攻击下的鲁棒性,提出分组鲁棒聚合框架:将模型参数聚类为不同组,并在各组内执行鲁棒聚合,以缓解实际参与方数据非独立同分布、梯度方差较大与鲁棒统计方法假设之间的不匹配。 原论文主要面向通用 FL 防御,而非 EEG 或 BCI。其机制是在已有 Byzantine-robust 聚合方法外引入参数分组,不是直接按参与方聚类。摘要未说明参数聚类依据、分组更新方式、具体聚合算法及额外计算成本,相关细节尚未验证。 作者报告,将该框架与多种常用 Byzantine-robust 聚合方法结合后,在能够绕过这些方法原始配置防御的攻击评估中,分组聚合提高了对 Byzantine 故障的鲁棒性。摘要未提供数据集、模型、参与方数量、恶意参与方比例、攻击细节或量化指标;实验协议、消融及统计信息尚未验证,因此不能据此推断对任意攻击、后门或异质数据均有效。 平台推测(待验证):若跨被试 EEG 联邦训练同时存在正常被试差异与恶意模型更新,参数分组或可作为已有鲁棒聚合器的可复用模块;仍需明确参数分组依据,并适配 EEG 任务模型及客户端划分。低信噪比、通道配置差异和小样本可能使正常更新呈现强异质性,导致防御误伤正常客户端,或削弱对恶意更新的区分。一个可证伪的小实验是在固定 EEG 数据划分、模型、攻击和恶意客户端比例下,仅改变是否启用参数分组,对照无攻击与有攻击条件下的任务指标及聚合开销。该设想不代表已验证的 BCI 效果,已有 EEG 相关工作尚未检索确认。

    阅读价值:该研究将模型参数分组与已有 Byzantine-robust 聚合方法结合,值得核对其在非独立同分布与参与方梯度高方差条件下的防御收益,但摘要尚不足以判断具体攻击条件下的适用边界。