VISTA:通过少量问卷答案推断潜在用户价值观以引导 LLM
VISTA: Steering LLMs with Latent User Values Inferred from a Few Survey Answers
基于摘要分析。该研究面向语言模型的价值观个性化:从用户完整或部分问卷答案中推断潜在价值观画像,再通过超网络将其映射为冻结 LLM 中的用户特定引导干预,用于答案选项选择或自由文本生成。VISTA(Value-Informed Steering and Targeted Acquisition)还联合考虑询问哪些问题以及何时停止,以减少用户填写问卷的认知负担。 机制上,VISTA 将用户画像转化为模型内部的引导干预,而不是把画像作为额外提示词输入。其前提是用户价值观在不同任务间具有一定稳定性;摘要未披露潜在画像的具体表示、干预位置、损失函数及超网络训练方式,这些技术细节尚未验证。 作者报告,在提供相同用户证据的条件下,VISTA 在合成偏好任务 Food2D、World Values Survey(WVS)和 PrimeX 上达到或超过上下文画像方法的表现,且不增加提示词 token。作者另报告,在 WVS 的问卷获取评估中,VISTA 在完成问卷的 6% 后停止,仍保留使用完整回答历史时收益的 94%,而标准自适应测试最多保留 42%;这些比例指摘要所称的收益保留程度,并非 Accuracy,收益定义与具体对照设置尚未验证。 作者报告,主导引导方向对应一条可解释的价值观轴,并能准确定位未见用户;摘要未给出相应指标。实验协议、用户与任务划分、消融及统计信息尚未验证,也无法据此确认跨任务稳定性或部署成本。该工作的主要对象是 LLM 个性化与价值观对齐,并非神经信号建模;目前材料不足以建立具体 EEG/BCI 机制对应关系,不据此提出迁移效果判断或复现实验建议。
值得核对其如何将少量问卷答案转化为冻结 LLM 的个体化干预,以及主动选题与停止策略能否在保留个性化收益的同时降低问卷负担;摘要尚不能确认其对 EEG/BCI 的适用性。
来源:arXiv · 架构与算子 · arxiv.org