线性表征假说与大语言模型的几何结构

基于摘要分析。本文研究大语言模型中“高层概念沿表征空间方向线性编码”的含义，以及余弦相似度、投影等几何操作应采用何种度量。其核心贡献是通过反事实分别形式化输出端词表征与输入端句子表征中的线性表征，并引入尊重语言结构的非欧几里得内积，将相关概念统一起来。 机制与证据：作者在理论上分别建立两种形式化与线性探测、模型引导之间的联系，并利用所定义的因果内积，通过反事实样本对构造探测器与引导向量。作者报告，LLaMA-2 实验支持概念线性表征的存在，展示其与模型解释、控制的联系，以及内积选择的重要作用。摘要未提供具体概念、模型规模、样本构造、对照或定量指标，实验协议、消融及统计信息尚未验证。摘要注明代码可用，但实现与复现条件尚未核验。 平台推测（待验证）：可迁移的不是语言模型结论本身，而是“概念方向依赖表征度量”的分析框架。假设 EEG 编码器中存在可分离的任务概念，反事实配对与内积选择可能帮助检验线性探测究竟捕捉任务信息还是混杂因素。可复用的是探测及几何比较思路；需要重新定义 EEG 中的概念干预、配对规则，以及因果内积的适用条件，不能直接套用语言结构假设。EEG 的低信噪比、被试与通道差异，以及小样本下的度量估计不稳定，都可能使该路径失败。 一个可检验的小实验是：固定 EEG 编码器与训练／测试划分，在控制被试、会话和伪迹因素的匹配样本上，比较欧几里得度量与训练集估计的候选度量下线性探测的跨会话表现及方向稳定性；只有满足原方法反事实定义时，才进一步解释为因果概念方向。该实验仅是假设检验建议，不是已有 BCI 结果；相关 EEG 工作尚未检索确认。