OpenReview · State space models· Yufa Zhou; Yixiao Wang; Xunjian Yin; Shuyan Zhou; Anru Zhang·· 2026-01-26精选AI 评分74
推理的几何:表征空间中的逻辑流
The Geometry of Reasoning: Flowing Logics in Representation Space
AI 导读
基于摘要分析。本文研究 LLM 的逻辑推理如何体现于内部表征,提出将推理描述为嵌入轨迹演化的几何流框架,并通过保持自然演绎命题相同、改变语义载体,考察模型是否学习了超越表面形式的逻辑结构。 机制上,作者以位置、速度和曲率等几何量描述表征空间与概念空间中的推理过程。作者提出的理论结论包括:LLM 推理对应表征空间中的平滑流,逻辑陈述则充当流速度的局部控制器。实验使用学习得到的表征代理,对推理流进行可视化与量化;代理的具体构造、几何量估计方式及理论成立条件尚未验证。 作者报告,Qwen 与 LLaMA 模型家族上的受控实验支持该框架,并据此认为,仅通过下一词元预测训练,模型也可能将逻辑不变量内化为表征空间中的高阶几何结构。作者进一步提出可能存在跨训练方式和架构的普遍表征规律;这属于作者对结果的解释,不能据摘要视为已确立的普适定律,也不能据此认定已验证与人类语言规律相同的机制。 材料未提供具体模型版本、命题集合、代理训练数据、对照设置或定量指标,实验协议、消融及统计信息尚未验证。本文主要对象是 LLM 推理的几何解释,而非 EEG 解码或 BCI;现有材料不足以建立针对神经信号的具体迁移机制,已有 EEG 相关工作尚未检索确认。
阅读价值
值得核对其如何通过固定自然演绎命题、改变语义载体来分离逻辑与语义,以及表征代理能否可靠反映推理轨迹;其跨模型普遍性与 EEG/BCI 适用性尚未验证。
来源:OpenReview · State space models · openreview.net