OpenReview · Representation learning· Samuel Cahyawijaya; Delong Chen; Yejin Bang; Leila Khalatbari; Bryan Wilie; Ziwei Ji; Etsuko Ishii; Pascale Fung·· 2025-01-01精选AI 评分75
大语言模型中人类价值观的高维表示
High-Dimension Human Value Representation in Large Language Models
AI 导读
基于摘要分析。本文研究如何刻画 LLM 在价值对齐后体现的人类价值观分布,提出高维神经表示 UniVar,将符号化的人类价值观分布表示为连续、可扩展的形式,以分析不同模型及语言文化背景下的价值优先次序。 方法上,作者从 8 个 LLM 的价值相关输出中进行自监督学习,并在 15 个开源及商业 LLM 上评估 UniVar。作者将该表示描述为独立于模型架构与训练数据的表征方式;这一描述不等于已经证明表示不受模型来源或训练数据影响,相关验证方式仍需核对全文。摘要未披露自监督目标、输出采样方式、价值类别定义或表示维度。 作者报告,利用 UniVar 对涉及 25 种语言与文化背景的 LLM 价值优先次序进行可视化和探索。摘要未提供定量指标、对照结果或不确定性估计,因此尚不能判断表示能否稳定区分价值差异、语言表达差异与回答风格差异。实验协议、消融及统计信息尚未验证。 本文的主要研究对象是 LLM 的价值观表示与分析,而非 EEG 解码或 BCI。现有材料未给出与神经信号处理之间的具体机制对应,不据此推断 BCI 有效性或提出迁移实验。复现前需核对价值相关输出的构造、语言覆盖、训练与评估模型的关系及表示质量的评价标准;代码与数据可用性尚未验证。
阅读价值
UniVar 将 LLM 的价值相关输出转化为可比较的连续表示,值得关注其如何区分价值取向与语言、模型来源等因素,但具体可辨识性与稳健性尚未验证。
来源:OpenReview · Representation learning · openreview.net