跳到正文

算法、任务与模态

Federated Learning 最新动态

Federated Learning 研究索引;按可核对的标签归档,不以热度评价质量。

167 条精选近 30 天 7 条共收录 232 条

更新

精选归档 · 第 9 页

1月1日周六第 161–167 条
  1. OpenReview · Representation learning72

    具有数据表示保护的安全高效去中心化联邦学习

    基于摘要分析。本文研究完全去中心化 P2P 联邦学习中的参与者互信不足、投毒攻击、数据表示泄漏及通信成本问题,提出基于区块链的框架 BlockDFL;研究对象是通用联邦学习系统,并非 EEG 或 BCI 专用方法。 机制上,BlockDFL 以区块链为基础,通过 PBFT-based 投票机制与两层评分机制协调彼此不信任的参与者,限制恶意更新的影响;同时引入梯度压缩,以降低通信量,并旨在阻止从传输的模型更新中重建训练数据。摘要未披露评分依据、投票与聚合流程、压缩算法及隐私保证的具体形式,不能据此将重建防护等同于形式化隐私保证。 作者报告,在两个真实世界数据集上,BlockDFL 的 Accuracy 与中心化联邦学习具有竞争力,并表现出抗投毒能力、效率和可扩展性;在其恶意参与者占比高达 40% 的实验条件下,仍能维持联邦学习 Accuracy,优于所比较的现有区块链式完全去中心化 P2P 联邦学习框架。数据集名称、划分方式、攻击类型、具体 Accuracy、基线配置及统计信息尚未验证,完整复现还需核对共识与通信开销的计量方式。 平台推测(待验证):若 EEG 研究需要在互不信任的多节点之间协作训练,其更新筛选与压缩机制可能具有参考价值;这依赖各节点能够训练兼容模型并交换可聚合更新。可复用部分是参与者协调和更新筛选,需改造部分包括适应跨被试、跨设备及通道差异的评分与压缩策略。低信噪比和小样本可能使正常节点更新被误判,压缩也可能损伤微弱判别信息。可在固定 EEG 数据与节点划分下,对比无防御联邦学习、仅筛选、仅压缩及完整机制,分别记录干净与投毒条件下的 Accuracy、通信量和正常节点误拒率。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其 PBFT-based 投票、两层评分与梯度压缩如何共同约束恶意参与者,并检验抗投毒、重建防护及通信开销之间的权衡;摘要中的效果尚需结合完整实验协议验证。

  2. OpenReview · Representation learning72

    个性化联邦对比学习

    基于摘要分析。本文研究数据异质条件下的联邦对比学习,通过同时学习全局表征与局部表征,改善各客户端任务的模型表现;原始研究对象是联邦图像分类,而非 EEG 或 BCI。 方法将全局模型作为一个对比学习分支,将局部模型作为另一个分支,并将局部模型划分为共享部分与个性化部分。训练时最大化全局模型与局部共享部分的一致性,同时最小化全局模型与局部个性化部分的一致性,以兼顾跨客户端共享信息和本地差异。摘要将这一设计与倾向于使全局、局部模型一致的既有方法作区分,但具体一致性度量、损失形式、模型划分及联邦聚合流程尚未验证。 作者报告,在三个公共数据集的联邦图像分类评估中,局部模型个性化带来了优于所比较先进 FL 模型的 Accuracy。摘要未给出数据集名称、具体数值、客户端划分或对照配置,因而不能判断收益大小及适用范围;实验协议、消融及统计信息尚未验证。联邦设置本身也不足以确认隐私保障强度,仍需核对其威胁模型与保护机制。 平台推测(待验证):假设将不同被试或采集端视为客户端,该机制可能对应 EEG 中共享任务特征与被试特异差异并存的问题。可复用的是共享对齐与个性化分离的训练思路,需改造 EEG 编码器、数据增强及通道适配;其对监督信号和客户端数据规模的依赖尚不明确。低信噪比、小数据及通道差异可能使个性化部分保留噪声,或使分离约束排斥有用的任务信息。可在固定客户端划分、标签预算和编码器条件下,以被试为客户端,对比共享联邦模型、该个性化机制及移除分离约束的版本,检验各客户端留出数据上的 Accuracy 与客户端间表现差异。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其以共享表征对齐、个性化表征分离来应对客户端异质性的机制及对照实验,但其有效性目前仅有摘要中的联邦图像分类结果支持,EEG 迁移价值尚未验证。

  3. OpenReview · Representation learning76

    基于自监督的联邦图表示学习

    基于摘要分析。本文研究联邦图表示学习(FedGRL)中标签不足与下游任务异质并存的问题:跨机构客户端拥有大量无标签图数据、有限或没有标签,且各自下游类别标签域不同。作者提出基于模型插值的联邦学习框架,通过自监督目标协同优化共享全局模型,并借助客户端本地模型引入下游任务监督。 作者使用自监督图表示学习方法 BGRL 实例化该框架。其主要机制是协调共享表示学习与本地任务监督,而非直接要求客户端共享统一的下游类别空间。模型插值的具体形式、监督如何作用于全局模型,以及通信与优化流程尚未验证;联邦训练本身也不等于具有形式化隐私保证。 作者报告,在将 Twitch Gamer Network 改造为跨地域客户端场景的实验中,相对传统监督式联邦学习目标平均提升 6.1%,相对各客户端独立自监督训练平均提升 1.7%。作者还构建了兼具标签不足和下游标签域异质特征的 Amazon Co-purchase Networks 数据集,并报告相对上述两类基线分别平均提升 11.5% 和 1.9%。摘要未明确这些增益对应的指标、相对百分比或百分点、平均方式及数据划分,不能将其直接解释为 Accuracy 的百分点提升。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 数据已被表示为通道或脑区图,且不同中心拥有大量无标签记录及不同任务标签,该框架可能对应跨中心标签稀缺和任务异质问题。可复用的是全局自监督与本地监督协同的思路;图构建、输入编码和本地任务头需要适配 EEG。低信噪比、通道不一致、跨被试差异及本地小数据可能造成负迁移。一个可检验的小实验是在统一 EEG 图构建和数据划分下,比较该框架、本地独立自监督和监督式联邦学习,并控制各客户端标签预算,检验共享训练是否稳定优于本地训练。该推断不构成 EEG/BCI 有效性证据,已有相关工作尚未检索确认。

    阅读价值:值得核对其通过模型插值结合全局自监督与本地任务监督的机制,以及在标签不足、客户端标签域异质条件下相对本地自监督训练的收益;其 EEG/BCI 适用性尚未验证。

  4. OpenReview · Representation learning72

    面向联邦式 3D 人体动作识别的深度多模态表征方案

    基于摘要分析。本研究面向多模态 3D 人体动作识别,探索如何在联邦学习框架下利用深度与 3D flow 信息,并通过多粒度模态融合和自适应联邦聚合实现分布式跨域知识迁移;原研究对象并非 EEG 或 BCI。 方法贡献包括将深度与 3D flow 信息纳入深度学习动作识别方案,设计 early、slow、late 三类融合方案,以及通过联邦聚合机制自适应引导学习过程。摘要未披露具体网络结构、损失函数、融合位置或聚合权重的计算方式,其跨域迁移机制仍需正文核对。 作者还引入了一个包含 132 名人类被试的多模态、多视角 3D 动作识别数据集,并在集中式和分布式场景下分析单模态与多模态表征。作者报告,所提出的联邦多模态方案在该数据集的两种具有挑战性的数据分布场景下取得了可接受的识别表现;摘要未提供具体指标、数值、分布设定及划分协议,因此不能据此判断相对基线的提升幅度。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将客户端对应为不同被试或采集站点,多粒度融合与自适应聚合可作为多模态 EEG 研究的候选机制,但前提是具有可对齐的多模态记录、可用监督及明确的客户端划分。可借鉴的是融合和聚合思路,深度与 3D flow 编码模块则需替换为适配神经信号的编码模块。EEG 低信噪比、被试差异、通道配置不一致及客户端小样本可能使自适应聚合不稳定。一个可检验的小实验是在固定跨被试划分和相同编码器条件下,对比单模态、不同粒度融合及固定与自适应聚合,检验收益能否在留出被试上保持。相关 EEG 工作尚未检索确认。

    阅读价值:该研究将深度与 3D flow 多模态融合和联邦自适应聚合结合,值得核对不同融合粒度在分布式数据条件下的表现,但其对 EEG/BCI 的适用性尚未验证。

  5. OpenReview · State space models74

    FLARE:利用潜在空间表征防御联邦学习中的模型投毒攻击

    基于摘要分析。本文研究联邦学习中恶意客户端通过提交精心构造的本地模型更新来污染全局模型的问题,提出鲁棒聚合机制 FLARE,以模型倒数第二层表征(penultimate layer representations,PLRs)刻画更新受到的对抗影响,而非仅分析模型参数。 机制上,FLARE 根据各本地模型更新之间的两两 PLR 差异评估可信度。在诚实客户端占多数的假设下,远离良性模型簇的更新被赋予较低信任分数;服务器随后按信任分数加权聚合更新,并更新全局模型。作者报告,PLRs 比基于模型参数的方案更有利于区分恶意与良性模型;在其评估设置中,FLARE 能抵御语义后门、木马后门及非定向攻击,并维护联邦学习的准确率。摘要未提供数据集、具体指标数值、对照方法及数据划分,表征提取所用输入、信任分数计算公式、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将该机制用于跨被试 EEG 联邦学习,可复用“表征差异—可信度估计—加权聚合”流程,但需适配 EEG 编码器,并核对服务器获取表征所需的数据及隐私条件。核心假设是恶意更新造成的表征偏离能够与正常被试差异区分;低信噪比、通道配置差异及小样本可能使诚实客户端也偏离良性簇,导致错误降权。一个可检验的小实验是在固定跨被试划分和诚实客户端占多数的条件下,分别设置无攻击与模型投毒情境,对比普通聚合和 FLARE,联合检查任务性能、攻击效果及诚实客户端被降权情况。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是 FLARE 以倒数第二层表征差异而非仅以参数差异评估客户端更新可信度的聚合机制,但其在非独立同分布数据及 EEG 联邦学习中的适用性尚未验证。

1月1日周三
  1. OpenReview · Representation learning73

    面向纵向联邦学习的大规模核方法

    基于摘要分析。该研究面向多个数据持有方分别掌握同一批样本不同特征的纵向分割场景,提出 vertical federated kernel learning(VFKL),旨在兼顾隐私约束与非线性核学习。核心方法是用随机特征近似核函数,再通过专门设计的双随机梯度,以联邦方式更新预测函数。 机制与理论:随机特征为核函数提供近似表示,是该方法面向大规模学习的关键路径。作者报告,VFKL 可达到次线性收敛率,并在常见的半诚实假设下保证数据安全;摘要还声称更新过程不泄露数据与模型隐私。具体核函数、随机特征构造、双随机梯度的采样方式、通信流程及隐私保证的覆盖范围尚未验证,不能据此认定其满足差分隐私或抵御恶意参与方攻击。 实验证据:作者报告在多个数据集上进行了实验,结果支持方法的有效性与相对优势;摘要未给出数据集名称、任务、划分协议、对照方法或量化指标,因此尚不能判断优势幅度及适用规模。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 与其他模态的特征由不同机构持有,且能够合法、准确地对齐同一批样本,纵向联邦核学习可能用于联合非线性预测。可复用的部分是随机特征近似与联邦优化,需改造或核对的部分包括样本对齐、EEG 特征提取、通信与威胁模型。它并不直接解决跨被试数据分布差异;低信噪比、小样本及模态缺失也可能削弱效果。一个可证伪的小实验是在样本对齐的 EEG 多模态数据上按模态划分持有方,固定划分与核设置,对照集中式近似核方法和单方特征模型,评估预测性能与通信开销。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

    阅读价值:值得核对 VFKL 如何结合随机特征与双随机梯度,在纵向分割数据上实现非线性核学习,以及其收敛与隐私保证所依赖的假设;其对 EEG/BCI 的适用性尚未验证。

  2. OpenReview · Representation learning70

    通过分组鲁棒聚合实现 Byzantine 鲁棒联邦学习

    基于摘要分析。本文研究联邦学习(FL)在 Byzantine 故障及恶意参与方攻击下的鲁棒性,提出分组鲁棒聚合框架:将模型参数聚类为不同组,并在各组内执行鲁棒聚合,以缓解实际参与方数据非独立同分布、梯度方差较大与鲁棒统计方法假设之间的不匹配。 原论文主要面向通用 FL 防御,而非 EEG 或 BCI。其机制是在已有 Byzantine-robust 聚合方法外引入参数分组,不是直接按参与方聚类。摘要未说明参数聚类依据、分组更新方式、具体聚合算法及额外计算成本,相关细节尚未验证。 作者报告,将该框架与多种常用 Byzantine-robust 聚合方法结合后,在能够绕过这些方法原始配置防御的攻击评估中,分组聚合提高了对 Byzantine 故障的鲁棒性。摘要未提供数据集、模型、参与方数量、恶意参与方比例、攻击细节或量化指标;实验协议、消融及统计信息尚未验证,因此不能据此推断对任意攻击、后门或异质数据均有效。 平台推测(待验证):若跨被试 EEG 联邦训练同时存在正常被试差异与恶意模型更新,参数分组或可作为已有鲁棒聚合器的可复用模块;仍需明确参数分组依据,并适配 EEG 任务模型及客户端划分。低信噪比、通道配置差异和小样本可能使正常更新呈现强异质性,导致防御误伤正常客户端,或削弱对恶意更新的区分。一个可证伪的小实验是在固定 EEG 数据划分、模型、攻击和恶意客户端比例下,仅改变是否启用参数分组,对照无攻击与有攻击条件下的任务指标及聚合开销。该设想不代表已验证的 BCI 效果,已有 EEG 相关工作尚未检索确认。

    阅读价值:该研究将模型参数分组与已有 Byzantine-robust 聚合方法结合,值得核对其在非独立同分布与参与方梯度高方差条件下的防御收益,但摘要尚不足以判断具体攻击条件下的适用边界。