无需训练的预训练模型合并

基于摘要分析。本文研究如何将多个具有单项能力的模型合并为一个多能力模型，提出无需额外训练的 merging under dual-space constraints（MuDSC）框架，核心是同时考虑权重空间与激活空间中的单元相似性，而非仅在单一空间中寻找对齐关系。 作者指出，既有方法通常需要额外训练或微调，或要求待合并模型具有相同的预训练初始化；其关注的机制问题是，权重相似的单元在激活空间中未必相似。MuDSC 通过线性组合激活相似度矩阵与权重相似度矩阵，寻找在两个空间中均具有较高相似性的置换矩阵。框架还对 Multi-Head Attention 和 Group Normalization 等分组结构进行了适配。摘要未明确相似度计算、组合系数、置换求解流程，以及激活统计所依赖的数据和规模。 作者报告，在多种任务组合与架构的比较中，MuDSC 改善了合并模型的性能；多任务损失景观可视化显示，合并模型位于各任务低损失区域的重叠部分。摘要未提供具体任务、数据集、指标、对照数值与初始化设置，因此尚不能量化收益或确定其适用范围；实验协议、消融及统计信息尚未验证。作者提供了公开代码地址，但实现细节与复现条件尚未核验。 平台推测（待验证）：若多个 EEG 模型的结构兼容、单元可通过置换对齐，该机制或可用于探索合并分别学习不同被试或会话特征的模型。可复用部分是双空间相似度与置换对齐，需改造或核对输入通道对应、归一化结构及用于估计激活的校准数据。低信噪比、被试差异、通道不一致和小样本可能使激活相似度不稳定。一个可检验的假设是：在统一通道与架构、固定校准数据预算的条件下，双空间对齐比仅权重或仅激活对齐更能保留合并前各模型在对应被试测试集上的性能。已有 EEG 相关工作尚未检索确认，该建议不构成已验证的 BCI 效果。