在低秩张量空间中学习全局提示以实现异构联邦学习

基于摘要分析。本文研究异构联邦学习中的通信负担、本地数据非独立同分布和客户端模型异质性问题，提出在低秩张量空间中学习全局提示的 FedGPT。核心贡献是以提示而非模型参数承载客户端知识，并通过张量分解提取跨客户端的全局信息。 机制上，各客户端交换变量数量较少的提示，以减少通信量；不同客户端的提示被堆叠为三阶张量，再进行张量奇异值分解，以应对数据异质性。作者称，不同规模的本地模型可借助提示传递知识，从而避免直接聚合异构模型参数。摘要尚未说明提示的注入位置、不同模型间的提示维度对齐、低秩约束、训练目标及具体聚合流程。 作者报告，在三个真实世界数据集的实验中，FedGPT 相对所比较方法的性能提升最高为 13.21%，通信量低于 FedAvg 的 3%。摘要未给出数据集名称、任务、指标、数据划分、客户端配置及通信统计口径，因此不能将 13.21% 解释为 Accuracy 提升或百分点差异，也不能判断各项比较是否处于相同预算。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若不同 EEG 客户端模型能够接受语义与维度兼容的提示，该机制可能用于跨被试或跨设备联邦学习，以提示交换降低通信成本，并尝试提取客户端间共享信息。可复用的是提示通信与张量聚合思路；需改造的是 EEG 编码器的提示接口、通道差异处理及异构模型间的提示对齐。低信噪比、小样本和被试差异可能使提示不稳定，低秩聚合也可能削弱少数客户端的有效特征。一个可证伪的小实验是在固定 EEG 数据划分、客户端模型配置及通信预算下，对比低秩张量提示聚合与简单提示平均，分别观察各客户端性能和通信量；原领域结果不等于 BCI 有效性，已有 EEG 相关工作尚未检索确认。