Souper-Model：简单算术如何实现最先进的 LLM 性能

该研究针对 LLM 训练成本高的问题，提出 Soup Of Category Experts（SoCE）：利用评估基准的类别构成选择专家模型，再通过非均匀加权平均合并模型权重，以提升性能而不进行昂贵的重新训练。基于摘要分析，未取得论文全文。 核心机制是 model souping，即对相同架构的多个模型进行权重平均。不同于均匀平均，SoCE 利用各模型在不同基准类别上的表现相关性较低这一观察，为弱相关的类别簇识别专家模型，再优化其合并权重。该方法依赖类别级性能信息和可进行权重合并的候选模型；摘要未说明类别聚类规则、专家选择准则、权重优化目标及求解方式，也未明确候选模型之间的训练与初始化关系。 作者报告，该方法在多语言能力、tool calling 和数学等领域改善了性能与鲁棒性，并在 Berkeley Function Calling Leaderboard 上取得最先进结果。摘要未给出具体分数、基线、候选模型规模、评估划分或鲁棒性定义，因此无法量化收益或判断结果的适用范围。实验协议、消融及统计信息尚未验证；需核对用于模型选择和权重优化的数据与最终评估数据之间的关系，以及非均匀平均相对均匀平均的独立贡献。 平台推测（待验证）：若同架构 EEG 解码模型在不同任务或被试群体上呈现互补表现，类别专家选择与权重合并可能用于缓解单一模型的跨被试性能不均。可复用的是类别级评估、专家选择和权重平均流程；需改造的是 EEG 类别定义、验证划分及合并权重的优化指标。低信噪比和小数据可能使专家排名不稳定，被试或通道差异也可能使模型权重难以兼容。一个可检验的小实验是固定同架构候选模型，在独立验证数据上选择专家并确定权重，再在未参与选择的被试上比较 SoCE 式合并、均匀平均与最佳单模型。原领域有效不等于 BCI 有效，相关 EEG 工作尚未检索确认。