利用参数空间对称性实现 LLM 推理技能迁移

基于摘要分析。本研究面向 LLM 间的技能迁移，针对模型在训练中发生分化后，task arithmetic 容易产生负干扰的问题，提出先对齐参数空间、再进行技能迁移的策略。其主要贡献是利用 Transformer 的参数对称性，并将对齐方法适配至 Grouped-Query Attention（GQA）和 SwiGLU 层。 机制上，作者利用置换、旋转与缩放对称性，探索基于权重和基于激活的参数空间对齐方式，再执行 task arithmetic。该思路试图减少模型参数表示不一致对技能合并的影响；但摘要未给出对齐目标、变换约束、匹配算法或技能向量的具体构造，不能据此确定实现细节。基于激活的方法使用何种数据、是否需要标签，以及不同模型之间需要满足哪些结构兼容条件，也尚未验证。 作者报告，在具有挑战性的推理基准上，该策略相较标准 task arithmetic 持续取得更好表现，并可向非推理模型迁移高级推理技能。摘要未列出模型家族、基准名称、评估划分、指标或收益幅度，实验协议、消融及统计信息尚未验证。作者将减少重复微调、增强模型适应性列为方法价值，但摘要不足以核对其计算与数据成本。 本文的主要研究对象是 LLM 参数合并与推理技能迁移，而非 EEG 或 BCI。平台推测（待验证）：若同构 EEG 模型的独立训练也存在可对齐的参数对称性，先对齐再合并或可缓解模型合并中的干扰。可复用的是参数匹配与合并思路，需重新核对 EEG 编码器的对称性，并为激活对齐选择独立校准数据；低信噪比、跨被试及通道差异可能使激活匹配不稳定，小数据也可能导致对齐过拟合。可用同构、独立训练的 EEG 模型，在固定校准集与留出测试集下比较直接 task arithmetic 和对齐后合并，检验是否改善迁移且不损害原任务。此为机制假设，不是论文已验证结果；相关 EEG 工作尚未检索确认。