跳到正文
OpenReview · State space models· Wenhao Lu; Spursh Deshpande·· 2026-05-28精选AI 评分74

潜在智能体究竟表征了什么?解读多智能体系统中的隐藏状态通信

What Do Latent Agents Actually Represent? Interpreting Hidden-State Communication in Multi-Agent Systems

AI 导读

基于摘要分析。本文研究多智能体系统以直接传递隐藏状态替代文本通信时,潜在通道实际承载哪些信息,以及这些信息是否体现了协作产生的新能力。作者对一个四智能体系统开展机制分析,评估任务涵盖数学推理、科学选择题和代码生成,主要贡献是区分任务与角色编码、答案正确性信号和智能体间的信息冗余。 作者报告,在所分析系统中,任务身份在潜在空间内几乎完全线性可分,仅凭隐藏状态也能以接近完美的准确率恢复各智能体角色;与此同时,表征空间的绝大部分实际上未被利用。摘要未提供具体分数、表征利用率定义或测量方法,这些结论的适用范围需由全文核对。 作者报告,答案正确性相关信息在网络中间层达到峰值,但单智能体基线同样存在这一信号,因此作者将其解释为基础模型属性,而非多智能体协作涌现的信号。各智能体虽呈现不同的角色特征,所携带的信息却高度冗余。综合这些观察,作者认为潜在通信看似丰富的表征更多反映基础模型几何结构,而非学得的组合式协调;这是作者对分析结果的解释,不等于已证明所有潜在多智能体系统均缺乏有效协作。 复现时需核对基础模型、隐藏状态传递方式、角色设定、具体基准与数据划分、线性探测的训练和评估流程,以及单智能体基线的可比性;实验协议、消融及统计信息尚未验证。本文主要研究对象是多智能体隐藏状态通信,摘要未提供 EEG/BCI 数据或验证,也未建立明确的神经信号方法对应关系,因此不据此提出 BCI 迁移效果或复现实验建议。

阅读价值

值得阅读其用单智能体基线区分基础模型表征属性与多智能体协作信号的分析思路,但作者关于潜在通信主要反映基础模型几何结构的解释仍需结合全文实验协议核对。

来源:OpenReview · State space models · openreview.net