SHARP:通过表征工程引导 LVLMs 中的幻觉
SHARP: Steering Hallucination in LVLMs via Representation Engineering
基于摘要分析。该研究针对大型视觉语言模型(LVLMs)生成看似合理、实际错误或缺乏证据支持的回答这一问题,提出 Steering HAllucination via RePresentation Engineering(SHARP),通过推理时干预内部表征来抑制幻觉,研究对象并非 EEG 或 BCI。 研究聚焦两类在既有工作中被认为重要的幻觉成因:过度依赖文本先验,以及在用户提示与视觉证据冲突时偏向提示。作者报告,表征探测发现,相关幻觉呈现可区分的内部表征模式。SHARP 据此识别与先验偏置、视觉上下文冲突有关的功能表征,并在推理过程中实时联合调整内部激活。摘要尚未说明探测标签、表征提取位置、干预方向的构造方式或调节强度,因此不能据此认定这些细节或表征与幻觉之间的因果关系。 作者报告,在三个大型视觉语言模型及多个基准上的评估显示,SHARP 能减少幻觉,同时保持模型性能与泛化能力。摘要未提供模型和基准名称、具体指标、数值、数据划分及对照方法,现阶段无法判断效果大小、适用边界或推理开销;实验协议、消融及统计信息尚未验证。 该工作的直接贡献是多模态生成模型的表征级幻觉干预。材料未建立其与 EEG 解码或 BCI 任务的具体对应关系,不应将原领域结果视为 BCI 有效性证据;相关 EEG 工作尚未检索确认。
值得核对的是,SHARP 将文本先验偏置与提示—视觉证据冲突分别关联到内部表征,并在推理时联合干预;其幻觉抑制效果及能力保持仍需结合全文实验协议验证。
来源:OpenReview · Representation learning · openreview.net