Interfaces 与 Modules：面向跨架构权重空间学习的可扩展表示

基于摘要分析。本文研究跨架构权重空间学习：如何表示不同网络的参数，既尊重参数置换对称性，又能扩展到较大网络。作者提出由 interfaces 与 modules 构成的类型化图，并据此构建 Universal Weight Encoder（UWE），使单个编码器能够处理多种受支持架构。 其核心机制是将必须共同置换的张量轴归入共享坐标空间：interfaces 是表示这些坐标空间的节点，modules 是表示运算实例的类型化超边。编译器从受支持的 PyTorch 模型导出该图；摘要称其可精确恢复由编译约束所定义的置换因子，不应据此推断其覆盖任意模型的全部参数对称性。UWE 对参数特征执行局部等变更新，再对不变的 interface 汇总表示执行全局注意力。相较需要架构专用对称性描述的张量编码器，以及全局注意力成本较高的神经元图，这种表示试图通过较少的 interfaces 降低全局交互开销。 作者报告，UWE 在已有基准上与架构专用的先进方法表现相当；在包含 100 种架构、共 1,200 个 transformer 的新模型集合上，对未见架构内部的网络排序优于所评估基线，其中包括大于训练阶段架构的模型，并使用显著更少的内存。摘要未提供具体指标、差值、内存测量条件及训练测试划分细节，实验协议、消融及统计信息尚未验证；也未明确排序目标与监督来源。 平台推测（待验证）：若 EEG 研究需要对不同架构的已训练解码器进行权重级质量预测，该表示可能提供跨架构元模型，但它不是直接的 EEG 信号编码方法。迁移依赖足量、可比的模型权重及统一评估标签，需要核对 EEG 解码器算子的编译支持，并适配排序目标。低信噪比、被试差异、通道配置和小样本训练可能使权重差异主要反映数据条件，而非模型质量。一个可证伪的小实验是在统一 EEG 任务与被试划分下构建多架构模型集合，留出整类架构，检验其对该架构内模型性能的排序能否优于简单权重统计基线。相关 EEG 工作尚未检索确认。