跳到正文
OpenReview · Representation learning· Ankit Pratap Singh; Namrata Vaswani·· 2025-12-31精选AI 评分77

纵向联邦多任务表示学习的安全算法

Secure Algorithms for Vertically Federated Multi-Task Representation Learning

AI 导读

基于摘要分析。本文研究纵向联邦多任务线性表示学习,即低秩列式压缩感知(LRCS),提出一种通信高效、具备 Byzantine 容错能力的算法,目标是在节点数据异质且存在 Byzantine 节点的条件下恢复共享低秩表示。其主要贡献是对交替梯度下降与最小化算法 altGDmin 进行基于几何中位数的鲁棒改造,并给出带异质性误差下限的理论收敛保证。 作者将纵向联邦 LRCS 中不同节点数据非同分布作为关键困难,并与其讨论的同质横向联邦情形区分。作者报告:在模型参数满足一定异质性界、且样本复杂度比最优界多一个 r 因子的条件下,估计子空间与真实低秩矩阵列空间之间的距离以高概率随迭代次数指数衰减,直至达到异质性界;其中 r 为待恢复矩阵的秩。因此,该保证并非无条件精确恢复,样本代价和最终误差均需结合理论假设理解。作者声称,据其所知,这是异质数据条件下首个具备 Byzantine 容错能力的低秩矩阵恢复结果。 摘要未给出 Byzantine 节点比例、攻击模型、几何中位数的具体聚合对象、通信量表达式或实证结果;具体假设、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在 EEG 对应场景是多节点持有不同任务的线性观测、任务参数可组成共享低秩矩阵,且部分节点可能异常或恶意的联合学习。可考虑复用低秩子空间更新与鲁棒聚合,但需改造 EEG 观测映射并核对任务划分是否符合本文的纵向联邦定义;不能直接把跨被试数据套用为同一问题。低信噪比、通道差异、小样本和非共享任务结构可能破坏低秩及异质性假设。可检验的小实验是在固定 EEG 任务与数据划分下,对比该鲁棒改造和原始 altGDmin,逐步加入节点更新污染,分别检查低秩重构误差与下游解码表现。上述迁移仅是假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其几何中位数鲁棒聚合如何处理纵向联邦低秩恢复中的异质性,以及收敛误差下限与样本复杂度的代价;摘要提供了理论保证,但尚不能据此确认 EEG/BCI 适用性。

来源:OpenReview · Representation learning · openreview.net