跳到正文
OpenReview · State space models· Benjamin Reichman; Adar Avsian; Larry Heck·· 2026-01-26精选AI 评分77

情绪何在:理解并刻画大型语言模型的情绪潜在空间

Emotions Where Art Thou: Understanding and Characterizing the Emotional Latent Space of Large Language Models

AI 导读

基于摘要分析。本文研究大型语言模型(LLMs)如何在隐状态空间中表征情绪,使用情绪改写句子的合成数据,通过奇异值分解(SVD)识别低维情绪流形,并研究该空间的跨域一致性与可干预性。 机制方面,作者报告情绪以方向形式编码,分布于多个层,且与可解释维度对齐,这些结构在模型深度方向上保持稳定。作者进一步使用学习得到的干预模块,在保留语义的同时调节模型内部的情绪感知;摘要未交代模块结构、训练目标及语义保持的评估方式。 评估方面,作者报告上述结构可泛化至覆盖五种语言的八个真实世界情绪数据集,跨域对齐具有较低误差,线性探针表现较强,并据此提出存在通用情绪子空间。作者还报告,对基本情绪的跨语言控制尤其明显。但摘要未提供具体模型、数据集名称、数据划分、对照方法或指标数值,因此不能据此判断泛化强度及干预效果边界;实验协议、消融及统计信息尚未验证。 本文的主要对象是语言模型隐状态,而非 EEG 或 BCI。平台推测(待验证):若 EEG 情绪解码表征也存在跨被试共享的低维方向,可尝试复用 SVD 子空间分析与线性探针作为诊断工具,但需将文本情绪监督改为 EEG 情绪标注,并控制被试、通道和刺激语义差异。低信噪比、小样本及个体差异可能使情绪方向与刺激或被试身份混杂。一个可证伪的小实验是在严格跨被试划分下,仅用训练被试估计子空间,比较该子空间与同维随机子空间对测试被试情绪解码的支持程度;这不能验证 LLM 干预模块对 EEG 有效。相关 EEG 工作尚未检索确认。

阅读价值

值得核对的是,作者将情绪表征的低维几何分析、跨数据集检验与隐状态干预联系起来,但其“通用情绪子空间”的适用范围仍需结合全文实验协议判断。

来源:OpenReview · State space models · openreview.net