对经监督微调的 LLM 规划器中世界模型恢复的深入考察

基于摘要分析。该研究考察：监督微调（SFT）提升 LLM 端到端经典规划能力时，模型是否也学会表征并推理其所求解的规划问题。研究通过一系列可解释性实验，同时检查微调后 LLM 的内部表征与生成能力，以评估其对底层世界模型的恢复程度；这里的世界模型指规划问题中的状态、动作及相关规则，而非脑信号模型。 作者报告，在有效动作序列上进行 SFT 后，LLM 的内部表征能够线性编码动作有效性及部分状态谓词。作者还报告，一些模型虽然难以利用输出概率对动作有效性进行分类，其内部表征仍能区分有效与无效动作。这提示，在本文考察的规划设置中，输出行为与内部可探测信息不一定一致，不能仅凭输出概率表现判断模型是否编码了相关知识。 在微调数据方面，作者报告，更广的状态空间覆盖，例如使用随机游走数据，能够带来更准确的底层世界模型恢复。摘要未给出具体模型、规划任务、数据规模、划分方式、探测器设置或定量结果，因此尚不能判断这一结论对不同模型与规划环境的适用范围。实验协议、消融及统计信息尚未验证，尤其需核对世界模型恢复的操作性定义，以及状态空间覆盖与其他训练数据因素的区分方式。 本研究的主要贡献是规划 LLM 的可解释性分析流程，并非 EEG 或 BCI 方法。现有材料未提供其与神经信号建模之间的具体机制对应，因此不据此推导 BCI 效果或迁移实验建议。