具身序列建模中抽象状态表征的涌现

基于摘要分析。该研究考察具身序列模型在预测动作时，是否会形成环境状态的内部表征，而非仅依赖难以泛化的表面统计规律。作者在 BabyAI 网格世界的语言条件导航任务中构建 Transformer，并通过“蒙眼”导航设置与内部激活探测，研究抽象状态表征的涌现。 模型的一般输入包括语言指令、动作序列及环境观察；在用于研究表征的“蒙眼”设置中，训练仅提供初始环境布局、语言指令以及完成任务的动作序列，不提供中间环境布局。该设计使研究能够检验：动作序列建模过程中，模型内部是否包含随动作变化的环境状态信息。 作者报告，在上述 BabyAI 设置下，可以从训练后模型的内部激活中较合理地重建中间环境布局，且语言指令会影响重建准确性。摘要未给出具体指标、数值或比较基线，因此这些结果应理解为内部状态信息可被探测读取的证据，尚不能据此确认模型在决策中因果性地使用这些表征，也不能直接推及更复杂环境的泛化表现。 探测器形式、训练与测试划分、模型配置、实验协议、消融及统计信息尚未验证。本文主要研究对象是具身导航中的序列模型表征，并非 EEG 或 BCI 解码；材料未提供与神经信号任务的具体机制对应，不能据此认定其具有 BCI 有效性。