跳到正文

算法、任务与模态

Federated Learning 最新动态

Federated Learning 研究索引;按可核对的标签归档,不以热度评价质量。

48 条精选近 30 天 9 条共收录 65 条

更新

精选归档 · 第 3 页

9月22日周五第 41–48 条
  1. OpenReview · State space models73

    SPACE:用于联邦学习贡献评估的单轮参与方融合

    基于摘要分析。本文研究联邦学习(FL)中参与方贡献评估的计算成本问题,提出 Single-round Participants Amalgamation for Contribution Evaluation(SPACE),以联邦知识融合和基于原型的模型评估降低评估开销,支持在单个通信轮次内评估参与方。 原问题与机制:参与方贡献可用于激励机制、鲁棒性增强及客户端选择。既有方法主要依赖 Shapley value,其计算即使采用基于梯度的模型重建和评估截断仍较昂贵。SPACE 的两个核心组件为 Federated Knowledge Amalgamation 与 Prototype-based Model Evaluation;摘要称它们使评估开销不再依赖验证集规模,并实现单轮评估。知识如何融合、原型如何构建、是否依赖标签及额外数据、贡献分数如何计算,尚未验证。 结果与证据:作者报告,在文中实验条件下,SPACE 的运行时间和 Pearson’s Correlation Coefficient(PCC)优于所比较的现有方法,并在客户端重新加权和客户端选择应用中表现有效。摘要未给出数据集、客户端数量、划分协议、对照方法、具体数值及 PCC 的参照对象,因此不能判断收益幅度,也不能将 PCC 等同于下游任务 Accuracy。实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但代码内容、运行依赖与可复现性尚未核验。 平台推测(待验证):假设 EEG 联邦学习需要按客户端贡献进行选择或加权,SPACE 的低开销评估机制可能具有参考价值,但原领域结果不代表 BCI 有效性。可考察复用知识融合和原型评估框架,并针对 EEG 表征、类别不平衡及客户端数据分布改造原型构建与贡献参照。低信噪比、跨被试差异、通道不一致和小样本可能使原型难以代表真实贡献。一个可检验的小实验是在固定 EEG 数据划分、客户端预算和下游解码器的条件下,比较 SPACE 与 Shapley value 近似评估的耗时、贡献排序一致性及客户端选择后的解码表现;需核对评估数据与测试数据的隔离。相关 EEG 工作尚未检索确认。

    阅读价值:值得关注其以知识融合与原型评估降低联邦学习参与方贡献评估成本的思路,但效率与评估一致性的具体证据,以及对联邦 EEG 场景的适用性仍需核对。

1月1日周日
  1. OpenReview · State space models72

    按需选择:在低维特征空间中实现有效的个性化联邦学习

    基于摘要分析。本文研究不同客户端数据分布存在域差异时的个性化联邦学习(PFL),提出 FedPick:从全局编码器生成的特征中,依据各客户端本地数据分布自适应选择任务相关特征,而非直接个性化编码器参数。 摘要描述的典型 PFL 架构由所有客户端共同训练的全局编码器和利用本地数据训练的个性化层组成。作者认为,共享编码器提取的通用特征包含对特定客户端任务无关的成分;在高维、非线性的网络参数空间中进行个性化则面临较大困难。FedPick 因此将个性化操作移至相对低维的特征空间,强调选择过程的直观性与可解释性。具体特征选择方式、损失函数、训练与通信流程、推理时的处理方式尚未验证。 作者报告,在跨域联邦学习实验中,FedPick 能够为客户端选择任务相关特征并改善模型性能。摘要未提供数据集、客户端划分、对照方法或指标数值,因此无法判断收益幅度、适用范围及通信成本;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若以被试或采集中心作为 EEG 联邦学习客户端,且共享编码器的特征中确有可分离的任务相关与域相关成分,客户端特征选择可能用于缓解跨被试分布差异。可复用的思路是“共享表征加本地特征选择”,但需适配 EEG 编码器、通道配置及本地监督条件。低信噪比、小样本和通道差异可能使选择过程不稳定,或误删有用特征。一个可检验的小实验是在固定被试划分、共享编码器及本地分类器条件下,对比使用全部特征与客户端特征选择,观察分类性能及选择稳定性;这仅是迁移假设,不是论文已验证的 EEG 结果。已有 EEG 相关工作尚未检索确认。

    阅读价值:FedPick 将个性化联邦学习的适配位置从编码器参数转向客户端任务相关特征选择,值得核对其选择机制及跨域评估协议,但摘要尚不足以验证具体性能收益或 EEG 适用性。

  2. OpenReview · EEG70

    FedEEG:通过跨被试结构匹配实现联邦 EEG 解码

    基于摘要分析。该研究针对多被试 EEG 集中训练可能带来的隐私泄露问题,提出联邦 EEG 解码框架 FedEEG,利用跨被试结构匹配连接各客户端的学习过程,在不直接集中原始 EEG 数据的设定下促进判别性特征学习。 核心机制是将每个被试作为一个客户端,在本地引入中心损失,并通过对同一类别的 EEG 特征取平均构建虚拟类别中心。随后,对齐不同客户端中相对应的类别中心,以约束各被试的局部训练、缓解客户端漂移。其方法重点不是仅聚合模型,而是显式利用类别级特征结构建立跨被试联系;这一机制依赖类别对应关系及类别相关特征,但具体标签可用性、中心计算与更新方式、损失形式及通信流程尚未验证。 作者报告,FedEEG 在基准 EEG 数据集上的解码表现优于所比较的先进联邦学习方法。摘要未提供数据集名称、被试数、任务、评价指标、数值结果或训练与测试划分,因此不能判断该结论对应被试内、跨被试还是跨会话评估,也不能量化收益。 复现时值得核对类别中心对齐在被试分布差异和类别不均衡下的效果,以及中心损失与跨客户端对齐各自的贡献。摘要将保护隐私列为框架目标,但未说明共享信息、威胁模型或隐私评估;不直接上传原始 EEG 数据并不等同于已验证不存在隐私泄露。实验协议、消融及统计信息尚未验证,代码与完整复现条件亦尚未验证。

    阅读价值:值得核对其通过跨被试类别中心对齐缓解联邦学习客户端漂移的机制,以及相应性能收益与隐私保护边界。

  3. OpenReview · State space models74

    Scale-MIA:通过潜在空间重建攻击安全联邦学习的可扩展模型反演攻击

    基于摘要分析。该研究关注联邦学习中的数据隐私:即使使用安全聚合(SA)协议,恶意参数服务器是否仍能从聚合模型更新中重建参与者的本地训练样本。作者提出 Scale-MIA,将模型反演攻击(MIA)分为潜在空间表示重建和生成解码两个阶段,以降低逐批迭代优化的计算负担。 机制上,Scale-MIA 利用模型内部结构,通过专门构造的线性层,以闭式反演机制从聚合更新中恢复潜在空间表示(LSRs),再将这些表示输入经过微调的生成解码器,重建整个输入批次。摘要将其与两类既有攻击对照:计算密集的迭代优化方法,以及在全局模型前添加额外模块、因而较显眼的攻击方法。不过,服务器具体需要哪些模型修改权限、闭式反演成立的条件,以及解码器微调所需的数据与监督信息,尚未验证。 作者报告,在常用机器学习模型及不同数据集、设置上的实验中,Scale-MIA 相比现有先进 MIA 具有更好的规模化重建能力、重建准确性和攻击效率。摘要未提供模型与数据集名称、样本规模、指标定义或具体数值,因此不能量化这些优势。作者提供了代码链接,但实现细节、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其对 EEG/BCI 的潜在意义是联邦训练的隐私风险评估,而非解码性能提升。假设 EEG 模型包含可被该机制利用的潜在表示与线性层,聚合更新也可能暴露训练信号;可复用的是潜在表示反演思路,生成解码器则需适配多通道时序结构。低信噪比、跨被试差异、通道配置变化和小数据条件可能使解码器重建失真,也可能产生外观合理但不对应真实样本的输出。一个可检验的小实验是在明确服务器权限与安全聚合设置下,用获授权的 EEG 数据比较恢复表示与最终波形的真实性,并核对跨被试泛化。已有 EEG 相关攻击工作尚未检索确认,原论文结果不构成 BCI 场景有效性的证据。

    阅读价值:值得阅读其从安全聚合后的模型更新重建潜在表示与输入样本的两阶段机制,但攻击权限、生成解码器的数据依赖及规模化优势仍需结合全文核对。

  4. OpenReview · Representation learning71

    通过聚类进行联邦表征学习

    基于摘要分析。本文研究无标签数据分布于多个客户端时的联邦自监督学习(FedSSL),重点针对数据高度异质、类别数量较多的情形,提出通过聚类优化表征的 FedRLC。其贡献是将聚类任务引入联邦表征学习,并结合本地训练与通信更新两个环节的策略。 机制上,FedRLC 在本地训练中使用 crossed KL divergence 损失及数据选择策略,在通信更新中动态上传本地簇中心。摘要未说明交叉比较的具体对象、样本选择准则、簇数确定方式、上传触发条件或服务端聚合方法,这些机制细节尚未验证。 作者报告,FedRLC 在常用基准上取得 state-of-the-art 结果,并覆盖高度异质设置及 CIFAR-100 等类别较多的数据集。摘要未提供具体指标、数值、客户端划分、异质性构造或对照基线,因此无法判断收益大小及不同协议下的可比性;实验协议、消融及统计信息尚未验证。复现还需核对完整训练配置、簇中心通信量及实现可得性。 平台推测(待验证):若将 EEG 被试或采集站点视为联邦客户端,聚类驱动的无标签表征学习可能对应跨被试数据异质性问题,但原论文的基准结论不构成 EEG/BCI 有效性的证据。可考虑复用本地聚类与簇中心上传机制,同时改造 EEG 编码器、时序增强和通道对齐;其适用性依赖各客户端样本量及聚类结构是否与目标任务一致。低信噪比、被试差异、通道不一致和小数据可能使簇中心主要反映伪迹或采集差异。一个可检验的假设是在固定跨被试划分、相同编码器和训练预算下,比较 FedRLC 与不使用聚类机制的 FedSSL 基线,通过留出被试的任务指标及通信量评估收益,并核对簇与被试身份的关联。已有 EEG 相关工作尚未检索确认。

    阅读价值:FedRLC 将聚类驱动的本地表征优化与簇中心动态上传结合,值得核对其在高度异质数据下的收益来源及通信代价,但摘要不足以验证其基准优势或 EEG 适用性。

  5. OpenReview · State space models74

    在表征空间中消除联邦学习的域偏差

    基于摘要分析。本文研究统计异质条件下联邦学习(FL)的表征偏差问题,提出通用框架 Domain Bias Eliminator(DBE),旨在缩小服务器与客户端在表征空间中的域差异,缓解本地训练期间通用表征的退化。 核心机制:作者认为,客户端数据域的偏差会导致表征偏差,并进一步削弱本地训练中的通用表征。作者报告,其理论分析表明 DBE 通过降低服务器与客户端的表征域差异,能够促进两者之间的双向知识迁移。摘要未提供域差异的具体定义、优化目标、模块结构或客户端与服务器的更新流程,因此尚不能判断 DBE 如何与现有 FL 方法组合,以及是否增加通信或计算成本。 实验与复现:作者报告,在四个数据集上,DBE 能改善现有 FL 方法的泛化与个性化能力,搭载 DBE 的 FL 方法优于十种先进的个性化 FL 方法。摘要未列出数据集名称、客户端划分、异质性构造、评价指标或具体增益,不能据此量化优势或比较不同协议。作者提供了公开代码地址,但代码内容、运行条件、实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设将被试或采集站点视为联邦客户端,DBE 的表征域差异控制可能对应跨被试 EEG 中分布不一致的问题。原方法依赖多客户端协同训练及可比较的表征空间,其监督要求和适用规模尚未验证。可考虑复用域差异控制思路,但需适配 EEG 编码器、通道配置及任务标签;低信噪比、小样本与被试差异可能使域对齐不稳定,或削弱有用的个体特征。一个可检验的小实验是在统一通道与标签的 EEG 任务中,以被试为客户端,在相同本地训练和通信预算下比较基础 FL 方法与加入 DBE 的版本,分别评估留出被试泛化与客户端个性化收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其将联邦学习中的客户端统计异质性与表征退化联系起来的分析,并核对 DBE 缩小服务器与客户端表征域差异的理论条件及实验收益;其对跨被试 EEG 的适用性尚未验证。

  6. OpenReview · State space models74

    SPACE:用于联邦学习贡献评价的单轮参与方融合

    基于摘要分析。本文研究联邦学习(FL)中参与方贡献评价的计算成本,提出 Single-round Participants Amalgamation for Contribution Evaluation(SPACE),面向激励机制、鲁棒性增强和客户端选择等用途,尝试降低依赖 Shapley value 的传统评价开销。 核心机制包括 Federated Knowledge Amalgamation 和 Prototype-based Model Evaluation。摘要称,两者用于消除评价开销对验证集规模的依赖,并支持在单个通信轮内评价参与方贡献;具体知识融合流程、原型构建方式、训练目标,以及“单轮”是否涉及额外准备成本尚未验证。原论文的主要对象是联邦学习参与方贡献评价,并非状态空间模型或 BCI 解码方法。 作者报告,SPACE 在运行时间和 Pearson’s Correlation Coefficient(PCC)方面优于所比较的先进方法,并通过客户端重新加权和客户端选择实验展示应用效果。摘要未提供数据集、客户端数量、数据划分、对照方法、具体数值或 PCC 的参照量,因而不能据此判断加速幅度及贡献估计的一致性。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库,但实现完整性及复现条件仍需核对。 平台推测(待验证):若 EEG 联邦学习中各客户端承担不同被试或机构的数据,SPACE 可能用于低成本估计客户端贡献;这一假设依赖各客户端任务与标签语义可对齐,以及原型能保留任务相关信息。可考察复用知识融合与原型评价模块,但需适配 EEG 输入、通道差异和跨被试分布。低信噪比、小样本或通道不一致可能使原型偏离真实贡献,也可能低估少数被试的价值。一个可检验的小实验是在固定客户端划分与独立验证集的 EEG 分类任务中,将 SPACE 排序与计算可承受的 Shapley 估计比较,同时记录评价耗时及重新加权后的任务指标。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 SPACE 如何以知识融合和原型评估降低联邦学习贡献评价成本,尤其是单通信轮评价的适用条件及 PCC 的参照定义;其 EEG 联邦学习价值尚未验证。

  7. OpenReview · State space models74

    在表征空间中消除联邦学习的域偏差

    基于摘要分析。本文研究统计异质性下的联邦学习(FL):客户端数据域的偏差可能使局部训练产生表征偏差,并导致通用表征退化。作者提出通用框架 Domain Bias Eliminator(DBE),旨在通过减少服务器与客户端在表征空间中的域差异,改善泛化与个性化能力。 机制方面,作者的理论分析认为,DBE 减少表征空间中的域差异可促进服务器与客户端之间的双向知识迁移。摘要未说明域差异的度量、具体损失形式、局部训练与服务器聚合流程,因此尚不能判断 DBE 如何嵌入不同 FL 方法,也不能将其归为某种已明确的对齐算法。 结果方面,作者报告在四个数据集上的实验中,DBE 能改善现有 FL 方法的泛化与个性化能力,并称搭载 DBE 的 FL 方法明显优于十种先进的个性化 FL 方法。摘要未提供数据集名称、客户端划分、异质性构造、指标及数值,故无法量化改善幅度或直接比较不同协议。实验协议、消融及统计信息尚未验证。作者提供了公开代码地址,但代码内容与复现条件尚未核验。 平台推测(待验证):假设将客户端对应为不同 EEG 被试或采集中心,DBE 的表征域差异处理可能对应跨被试或跨中心分布偏移这一瓶颈。可考虑复用其服务器—客户端表征协调机制,但需适配 EEG 编码器、通道差异及任务标签结构;摘要未交代原方法依赖的监督形式和数据规模。低信噪比、小样本与被试特异性可能使域对齐同时削弱有效任务信息。可检验的小实验是在固定跨被试客户端划分、相同编码器与通信预算下,对比基础 FL 方法及其 DBE 版本,并分别评估全局模型与个性化模型的表现。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

    阅读价值:值得核对 DBE 如何在表征空间减少服务器与客户端的域差异,以及其对泛化与个性化的改善能否在一致的联邦学习协议下复现;摘要尚不足以确认具体实现和效果幅度。