跳到正文
OpenReview · EEG· Shuqi Zhu; Yi Zhong; Ziyi Ye; Bangde Du; Yujia Zhou; Qingyao Ai; Yiqun LIU·· 2026-05-01精选AI 评分73

人类如何处理 AI 生成的幻觉内容:一项神经影像研究

How do Humans Process AI-generated Hallucination Contents: a Neuroimaging Study

AI 导读

基于摘要分析。研究关注人类为何能够识别或被 AI 生成的幻觉内容误导,通过图像描述正确性核验任务中的 EEG 记录与平均事件相关电位(ERP)分析,考察幻觉加工及判断失败所对应的神经动态。 研究对象是人类对多模态大语言模型(MLLM)生成内容的认知加工,而非新的 BCI 解码算法。作者在 27 名参与者判断 MLLM 生成的图像描述是否正确时记录 EEG,并比较幻觉与非幻觉内容,以及幻觉内容被正确判断与被误判时的神经反应。摘要未提供 MLLM 名称、刺激构成、试次数、EEG 采集配置、ERP 时间窗与电极区域,相关实验协议尚未验证。 作者报告,在该核验任务的平均 ERP 分析中,幻觉与非幻觉内容对应的神经反应呈现不同模式,并将这些模式解释为语义整合、推理加工、记忆检索及认知负荷等过程的差异。作者还报告,被误判与被正确判断的幻觉内容引发的神经反应存在显著差异,并据此提出:被误判的幻觉未能触发常规的神经认知事实核验通路。该通路解释属于作者结论;仅凭摘要无法核对 ERP 成分与认知过程的对应依据、效应量、多重比较处理及潜在混杂因素。 材料提供了公开代码地址,可作为核查分析流程与复现条件的入口,但数据可用性、依赖环境及代码完整性尚未验证。摘要未报告单试次幻觉识别、跨被试泛化或在线反馈结果,因此群体平均 ERP 差异不能直接视为可用的 BCI 检测性能;统计细节与稳健性分析需结合全文确认。

阅读价值

值得阅读的具体原因是,研究通过 EEG 与 ERP 比较人类正确识别及误判 MLLM 幻觉内容时的神经反应,为理解幻觉核验失败提供实验线索,但认知机制解释及其作为检测信号的有效性尚需核对全文。

来源:OpenReview · EEG · openreview.net