跳到正文
OpenReview · EEG· Benjamin J. Choi; Melanie Weber·· 2025-09-19精选AI 评分73

大语言模型中情感表征的潜在结构

Latent Structure of Affective Representations in Large Language Models

AI 导读

基于摘要分析。该研究的主要对象是大语言模型(LLMs)的情感表征,而非 EEG 解码算法;作者以情绪的类别组织和连续情感维度为参照,利用几何数据分析工具研究潜在表征的结构,并探索其在情绪处理任务中量化不确定性的用途。 研究动机是:一般表征几何研究缺乏可供验证的真实潜在几何,而心理学中的效价–唤醒度(valence–arousal)模型提供了相对明确的参照。作者报告,在 GoEmotions 语料上的实验中,LLMs 学到了连贯的情感潜在表征,并与常用的效价–唤醒度模型对齐。摘要说明该语料包含约 58,000 条带人工情感标注的文本评论,但未提供具体 LLM、表征提取位置、数据划分或对齐指标。 作者还报告,情感表征具有非线性几何结构,但可被线性方式较好近似,为模型透明性方法中常用的线性表征假设提供经验支持;潜在表征空间也可用于量化情绪处理任务中的不确定性。具体几何分析方法、线性近似误差、不确定性定义及校准评估尚未验证,不能据摘要判断其相对基线的优势。 EEG 在本文中作为潜在结构的比较对象出现。作者报告,这一比较提示 LLM 情感表征与人类 EEG 数据可能存在相似性,但摘要未交代 EEG 数据来源、被试、通道、实验任务、被试内或跨被试划分,以及两种模态的比较方法。结构相似性并不等于模型能够解码 EEG,也不证明其可提升 BCI 性能。当前材料不足以提出具体迁移或复现实验方案;其他 EEG 相关工作尚未检索确认。实验协议、消融及统计信息尚未验证。

阅读价值

值得阅读的是作者以心理学情感维度为参照检验 LLM 表征几何,并探索其与 EEG 潜在结构的相似性,但这种比较尚不能作为 EEG 解码或 BCI 有效性的证据。

来源:OpenReview · EEG · openreview.net