跳到正文
OpenReview · State space models· Zihao Huang; Rui Mao; Pengjun Xie; Anupam Chattopadhyay; Erik Cambria·· 2026-07-09精选AI 评分73

对话压力如何改变大语言模型的信念:隐藏状态边界视角

How Conversational Pressure Alters Belief in Large Language Models: A Hidden State Boundary Perspective

AI 导读

基于摘要分析。本文研究大语言模型(LLMs)在事实性多轮对话中,如何在持续对话压力下放弃最初的正确答案,并以隐藏状态轨迹及可学习边界解释这一过程。研究对象是 LLM 的内部表征与回答稳定性,而非 EEG 或 BCI;文中的“信念”应理解为作者对模型内部答案倾向的描述,不等同于人的主观信念。 作者跟踪受压多轮对话中的完整隐藏状态轨迹,报告在后续轮次的答案发生改变之前,隐藏状态已逐渐向一个可学习的隐藏状态边界移动。作者据此认为,这一变化并非仅是输出层的短暂波动。通过 multi-view CNN 分析,作者进一步报告,与边界相关的信号集中在少量关键维度构成的稀疏内部子空间,以及模型的中后层。 干预部分以该边界为参照,在隐藏状态空间中比较沿边界法向与切向的扰动。作者报告,法向扰动对增强或削弱模型原答案的内部倾向更有效,切向扰动的效果则较弱,且这一模式在不同模型家族中保持一致。该对照为边界方向与答案稳定性之间的机制联系提供了干预层面的证据,但其具体适用范围仍需结合全文判断。 摘要未提供模型名称、对话数据与压力构造方式、边界学习目标、数据划分、扰动幅度及定量结果;实验协议、消融及统计信息尚未验证。复现时需重点核对边界如何定义与学习、不同方向扰动如何匹配强度,以及结论能否跨问题与模型泛化。材料未建立与神经信号解码的具体机制对应,不据此推导 EEG 或 BCI 有效性。

阅读价值

值得核对其隐藏状态边界的学习与干预协议:摘要将回答改变前的轨迹变化与法向、切向扰动对照相结合,为分析 LLM 在对话压力下的答案稳定性提供了可检验的机制解释。

来源:OpenReview · State space models · openreview.net