语言模型表征空间与时间

基于摘要分析。本文研究大语言模型是否仅学习表面统计规律，还是形成了反映现实世界的连贯表征；核心贡献是分析 Llama-2 系列模型内部的空间与时间表征，并提供多尺度线性坐标编码及个别相关神经元的证据。 研究对象包括三类空间数据：世界、美国和纽约市地点；以及三类时间数据：历史人物、艺术作品和新闻标题。作者报告，模型在这些数据上形成了跨多个尺度的空间与时间线性表征，对提示变化具有稳健性，并能跨不同实体类型保持统一，例如城市与地标。摘要还称，作者识别出可稳定编码空间或时间坐标的个别“space neurons”和“time neurons”。这里的神经元指模型中的计算单元，而非生物神经元。 这些结果为语言模型内部存在结构化时空信息提供了证据，但摘要没有给出具体模型规模、表征提取位置、线性分析方法、数据划分、对照基线或定量指标，实验协议、消融及统计信息尚未验证。需要结合全文核对坐标编码的评估方式、提示稳健性的测试范围，以及个别神经元与坐标之间的关系是否经过因果干预验证。作者将结果解释为现代 LLM 具备世界模型的基本组成要素，并明确表示仍需进一步研究；不能据此认定模型已具备完整世界模型或可靠的时空推理能力。 本文主要属于语言模型表征分析，摘要未涉及 EEG、BCI 或神经信号解码，也未提供可直接对应其瓶颈的方法机制，因此不将这些发现改写为已验证的 BCI 算法贡献。已有 EEG 相关工作尚未检索确认。