跳到正文
OpenReview · EEG· Shuqi Zhu; Yi Zhong; Ziyi Ye; Bangde Du; Yujia Zhou; Qingyao Ai; Yiqun LIU·· 2025-09-19精选AI 评分70

人类如何加工 AI 生成的幻觉内容:一项神经影像研究

How do Human Processes AI-generated Hallucination Contents: a Neuroimaging Study

AI 导读

基于摘要分析。该研究考察人类识别多模态大语言模型(MLLMs)生成的幻觉内容时的神经反应,通过 EEG、ERP 分析及预测实验,探索幻觉识别的认知过程,以及能否从脑活动判断用户是否受到幻觉误导。 研究记录了 27 名参与者的 EEG:参与者观看含有或不含幻觉词的模型生成描述,并判断描述是否与图像匹配。作者比较幻觉词与非幻觉词对应的平均 ERP,以考察不同时间尺度上的加工差异。作者报告,结果提示幻觉识别涉及语义整合、推理加工、记忆提取和认知负荷等多种认知过程;摘要未提供具体 ERP 成分、时间窗、效应量或统计检验,相关认知解释尚需结合全文核对。 作者报告,当参与者未识别出幻觉时,相应脑反应与非幻觉内容没有差异,并据此提出人类在潜意识层面也将此类幻觉视同非幻觉内容。需注意,摘要中的“没有差异”是否来自显著性检验、等效性检验或其他分析尚未验证,因此不能仅据摘要将其视为两类内容神经加工完全相同的证据。 作者还使用所采集的 EEG 开展预测实验,并报告可据脑活动检测用户是否被 MLLMs 幻觉误导。不过,摘要未明确预测标签如何定义,也未给出模型、性能指标、训练测试划分及被试内或跨被试协议。复现时需核对任务究竟预测内容是否含幻觉,还是预测参与者是否识别失败,并检查图像、描述和词汇因素的控制方式。实验协议、消融及统计信息尚未验证;目前材料支持将其视为幻觉识别相关神经加工与 EEG 预测的探索,而非已验证的通用幻觉检测或 BCI 系统。

阅读价值

该研究将 MLLMs 幻觉识别中的行为判断与 EEG、ERP 分析结合,并探索预测用户是否受幻觉误导,但预测有效性及其是否超越行为信息仍需核对全文。

来源:OpenReview · EEG · openreview.net