跳到正文
OpenReview · Representation learning· Shuo Wang; Keke Gai; Jing Yu; Zijian Zhang; Liehuang Zhu·· 2025-01-01精选AI 评分71

PraVFed:通过表示学习实现实用的异构纵向联邦学习

PraVFed: Practical Heterogeneous Vertical Federated Learning via Representation Learning

AI 导读

基于摘要分析。本文研究纵向联邦学习(VFL)中参与方局部模型异构及逐批通信开销较高的问题,提出 PraVFed,通过局部表示聚合、嵌入保护和多轮本地训练,支持异构局部模型协作并降低通信成本;其主要研究对象并非 EEG 或 BCI。 机制上,PraVFed 对被动参与方的局部嵌入值进行加权聚合,以缓解局部模型异构信息对全局模型的影响;利用盲化因子保护被动方的局部嵌入,目标是保护本地样本特征;同时允许被动方执行多轮本地预模型训练,并保持标签隐私。摘要未给出权重计算、盲化协议、训练目标及标签隐私实现细节,具体安全假设与保证范围尚未验证。 作者报告进行了理论分析及实验,并称在异构模型条件下降低通信开销、优于其他方法。具体而言,在 CINIC10 上以达到 60% Accuracy 为目标时,作者报告 PraVFed 相较基线方法的通信成本降低 70.57%。摘要未明确该基线名称、数据纵向划分、参与方数量、模型异构配置及通信成本计量方式,因此这一收益不能直接外推至其他协议。实验协议、消融及统计信息尚未验证。作者提供了代码地址,但实现与复现条件尚未核验。 平台推测(待验证):若多机构持有同一批已对齐样本的不同模态或特征,且标签仅由主动方持有,这一机制可能对应 EEG 与其他模态联合建模时的异构模型及通信瓶颈;它不直接适用于各机构持有不同被试的常见横向联邦场景。可复用方向是嵌入聚合与本地更新调度,需改造 EEG 编码器、样本对齐及隐私协议接口。低信噪比、通道差异、跨被试分布变化与小数据均可能削弱嵌入可聚合性。可检验的小实验是在固定样本对齐和纵向划分下,对比逐批通信与多轮本地更新达到同一预设 Accuracy 所需的通信字节数,并观察预测性能是否退化。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其以局部嵌入加权聚合、盲化与多轮本地训练兼顾异构模型协作和通信效率的机制,但隐私保证及通信收益的具体适用条件仍需核对全文。

来源:OpenReview · Representation learning · openreview.net