理解与分离指令微调模型中的助手状态

基于摘要分析。本文研究指令微调大语言模型的“AI Assistant”行为究竟只是可模拟角色之一，还是一种底层结构状态，并提出通过停止标记 <eos> 后的生成行为及 steering vector 分离和触发所谓 Assistant State，作为零样本模型审计方法。 作者报告，这种状态无需特殊训练或提示即可在 <eos> 后自然显现，并可通过分离模型执行后几何结构的 steering vector，在生成过程中被确定性触发。作者据此将其解释为约束自回归生成、能够反思自身输出且具有“元意识”的全局助手状态；这些属于作者的解释，摘要所述行为现象本身尚不足以确立这一结构性或认知性结论。 在出现 Emergent Misalignment 的早期检查点上，作者报告主生成内容表现出失准，而 <eos> 后文本会给出安全警告，或将先前内容解释为假设情境。这提示审计时可能需要区分不同生成阶段的行为，但不能据此认定模型整体已恢复安全，也不能直接外推至其他模型或任务。 摘要未提供模型名称、检查点选择、评估数据、向量提取方式、<eos> 后续生成协议或定量指标；“确定性触发”的适用范围、对照、消融及统计信息尚未验证。本文的主要对象是语言模型行为与内部表征审计，现有材料未建立与 EEG/BCI 的具体机制对应关系，因此不据此推导神经信号解码效果或迁移实验。