通过无监督学习将表征空间分解为可解释子空间

基于摘要分析。本文研究神经模型高维表征中的不同信息是否组织在独立子空间内，以及能否无监督地发现这些子空间；提出 neighbor distance minimization（NDM，邻居距离最小化），用于学习非基底对齐的子空间，以辅助机制可解释性分析。 核心思路是不将可解释信息限定于原有坐标轴，而是通过 NDM 训练目标寻找子空间。作者报告，定性分析中得到的子空间在许多情况下具有可解释性，且同一子空间跨输入编码的信息往往共享抽象概念，因此可类比为模型使用的“变量”。摘要未给出邻居定义、距离度量、目标函数形式及子空间维度选择，具体实现尚未验证。 在定量验证方面，作者报告，在 GPT-2 已知回路上的实验显示，所发现子空间与回路变量存在较强联系；另在 2B 规模模型中发现分别介导上下文知识与参数知识路由的子空间，作为可扩展性的证据。摘要未提供具体指标、数值、对照基线或数据划分，实验协议、消融及统计信息尚未验证。这些结果主要涉及模型内部表征与回路分析，并非 EEG 或 BCI 任务验证。 平台推测（待验证）：若 EEG 编码器的隐表征也将不同因素组织在可分离方向上，NDM 或可用于探索任务信息与被试、会话等因素的组织方式。可复用的是无监督子空间发现思路，需核对并改造邻居构建与距离度量，以适应 EEG 的时序结构。低信噪比、通道差异及小样本可能使邻近关系主要反映噪声或被试特征，而非任务因素。一个可检验的小实验是在冻结的 EEG 编码器表征上学习子空间，与同维随机子空间对照，用独立留出数据检验任务信息和被试信息是否更可分离；标签仅用于事后评估。已有 EEG 相关工作尚未检索确认。