J-Space 中的图表征

基于摘要分析。本文研究语言模型的内部工作空间是否同时表示推理所需的实体节点与关系边，并通过关系词对照及工作空间编辑，考察两类信息在 token 位置和模型深度上的分布。核心贡献是区分“能读出节点和边”与“同时持有连接完整的图”，并指出作答时的工作空间快照可能遗漏决定答案的关系信息。 研究以多步关系问答为对象，例如沿“John 的银行家—该银行家的老师”这样的关系链寻找答案。Jacobian lens 可将工作空间中的内容读出为单词；作者比较同一故事下仅一个关系词不同的问题，并编辑工作空间，检验哪些改动会影响答案。这一设计将表征读取与干预结合，用于分析实体和关系对回答的作用。 作者报告，在所考察的多个模型中，工作空间都包含节点和边的信息，但两者具有不同的时空分布：编辑人物信息，在姓名所在位置及各模型深度均会影响答案；编辑关系信息的影响则仅出现在关系词位置及中间层。作者据此认为，节点与边并未在同一位置、同一时刻共同可用，因此工作空间未同时持有连接完整的图。作者还报告，到答案形成时，决定答案的关系已离开工作空间，但仍保留在模型其他部分。 这些发现支持沿 token 位置和层深追踪关系信息，而非仅依赖最终工作空间快照。其结论范围仍需结合工作空间的操作性定义、编辑方法与读出能力核对；摘要未提供具体模型、数据规模、评估指标及效应量，实验协议、消融及统计信息尚未验证。本文主要研究语言模型内部表征，摘要未提供 EEG 或 BCI 实验，不能据此推断其对神经信号建模的有效性。