一个 Transformer 何时能够使用另一个 Transformer 的隐藏状态？

研究考察分别优化的 Transformer 能否在不学习对齐映射的情况下直接使用彼此的隐藏状态，并将共享坐标约定识别为影响这种互操作性的重要条件。基于摘要分析，研究对象是受控检索任务中的 Transformer 及独立预训练的 Pythia-70M，并非 EEG 或 BCI 模型。 核心定义是“原始互操作性”：冻结的接收模型能否在恒等映射下，因果性地利用独立学习的供体状态。作者报告，在受控检索任务中，共享外部指定坐标框架的独立优化模型能够稳健地进行跨模型状态移植，且这一现象也出现在留出的两跳组合任务上。 机制分析方面，作者报告，解码器可见的状态子空间包含大量但不完整的可迁移信号；在所测试的坐标框架干预中，共享输出坐标是最强的锚点，但接收模型特有、位于解码器零空间中的结构仍会影响结果。当输出坐标不同时，恒等映射下的迁移几乎消失；应用精确已知的坐标对应关系后，损失的优势几乎全部恢复。这属于映射后的兼容性，不能等同于无需对齐的直接互操作。 边界测试中，作者报告，独立预训练的 Pythia-70M 不同随机种子模型在所测接口上未表现出可靠的恒等映射迁移；其中一个接口经事后诊断确认，在单个模型内部具有因果信息作用。因此，内部有用的隐藏状态不必然能被另一模型直接使用。具体任务规模、移植位置、评价指标、消融及统计信息尚未验证。 平台推测（待验证）：这一机制可用于提出 EEG 编码器之间隐藏表征复用的假设，但原研究依赖的共享坐标条件不能直接视为 EEG 中已满足。可复用的是冻结接收模型、状态移植及坐标干预的验证思路；需改造通道布局、时间分辨率和输出语义的对应关系。低信噪比、跨被试差异及小数据可能使坐标一致仍不足以支持迁移。一个小规模检验是在同一 EEG 任务与固定划分下训练不同种子模型，对比模型内状态移植、跨模型直接移植及显式对齐后的移植，并先验证所选接口在模型内部确有作用。相关 EEG 工作尚未检索确认。