跳到正文
OpenReview · State space models·· 25 天前精选AI 评分77

历史并非状态:语言智能体充分状态失效的因果诊断

HISTORY IS NOT STATE: CAUSAL DIAGNOSTICS FOR SUFFICIENT-STATE FAILURES IN LANGUAGE AGENTS

AI 导读

基于摘要分析。研究针对语言智能体在用户目标、证据及环境持续变化时的决策失败,提出 MarkovLens,以任务充分状态作为干预目标,定位“历史—状态—决策”链条中的错误,而非提供通用修复方法或排行榜。 核心机制是构造规范化、不泄漏目标决策信息的状态表示:在给定当前查询与决策上下文后,目标决策应独立于历史的表面形式。框架包含四项诊断:充分状态差距(SSG)、Markov 不变性违反(MIV)、状态更新错误(SUE)及过时状态吸引(OSA)。摘要未给出各指标的完整计算定义,状态构造与干预有效性仍需正文核对。 作者报告,在包含 96 个状态的均衡 User Constraint Update 网格上,qwen2.5:7b 的 Accuracy 从原始历史输入下的 0.833 升至标准答案状态输入下的 1.000,SSG 为 +0.167,95% CI 为 [0.130, 0.206];mistral:7b 则从 0.917 降至 0.833,SSG 为 −0.083,95% CI 为 [−0.151, −0.023]。作者通过接口条件均衡化的控制实验指出,显式状态的呈现方式本身参与了这一效果,因此负 SSG 不能简单解释为状态信息无用。 作者报告,在包含 48 个组的 Code Requirement Drift 切片上,qwen2.5:7b 的 Accuracy 从 0.755 升至 1.000,SSG 为 +0.245,95% CI 为 [0.135, 0.354];mistral:7b 的 SSG 方向仍为负,但统计上不稳定。Tool/Environment Mutation 的结果显示,紧凑状态可能损害表现,而对话式状态可恢复表现;OSA 校准支持 qwen2.5:7b 存在较强的过时状态吸引,但对 mistral:7b 的支持并不相同。 阅读重点是区分状态推断失败与状态接口使用失败,避免把紧凑表示直接等同于更有效的记忆。实验划分、提示模板、状态是否泄漏答案的验证、置信区间估计、消融及复现条件尚未验证。原研究对象是语言智能体,摘要未提供 EEG 或 BCI 验证;已有 EEG 相关工作尚未检索确认,不能将这些结果视为神经信号建模效果。

阅读价值

值得阅读之处在于通过状态干预及接口控制区分当前状态推断、显式状态使用与过时状态吸引等失败来源,而非仅依据最终 Accuracy 判断语言智能体能力。

来源:OpenReview · State space models · openreview.net