跳到正文
OpenReview · EEG· Sven Terpstra; Willem Zuidema; Marianne De Heer Kloots·· 2025-10-03精选AI 评分74

超越 surprisal:GPT 衍生注意力指标为自然阅读中的 N400 预测提供额外解释力

Beyond surprisal: GPT-derived attention metrics offer additional explanatory power in predicting the N400 during naturalistic reading

AI 导读

基于摘要分析。该研究关注自然阅读中 N400 振幅是否不仅与词语可预测性有关,还能由 GPT 注意力模式的变化获得补充解释。作者将语言模型衍生指标与 EEG 数据进行混合效应回归分析,报告注意力指标在 surprisal 和词汇熵之外具有额外解释力;研究主要属于语言理解的神经认知建模,并非 BCI 解码方法验证。 数据来自荷兰语自然阅读数据集 RaCCooNs,包含 37 名参与者、每人阅读 200 个荷兰语句子的 EEG。作者将相同句子输入四个 GPT 类语言模型,涵盖单语与多语变体,提取 surprisal、词汇熵以及注意力衍生指标。分析以语言模型指标为固定效应预测变量,纳入词语与参与者层面的随机效应,并控制词频、词语位置和词长,再比较不同指标组合下的模型拟合质量。 作者报告,GPT surprisal 能稳健预测这一荷兰语自然阅读条件下的 N400 振幅;基于两个代表性 GPT 模型的分析,Normalized Attention Entropy(NAE)、ΔNAE 和 Manhattan Distance(MD)在 surprisal 与词汇熵之外提供了显著的额外解释力。摘要未给出效应量、具体显著性数值或拟合改善幅度,因此不能据此量化收益,也不能将回归解释力直接视为未见被试上的预测性能。 其可核对的贡献是把注意力衍生指标从既有阅读时长研究延伸到 N400 建模,为检验语言模型表征与神经语言加工之间的对应关系提供候选变量。注意力指标的具体计算、模型身份、N400 时间窗与电极选择、EEG 预处理、随机效应结构、数据划分、多重比较处理及消融等实验协议与统计信息尚未验证;目前也不能据此认定模型注意力对应人类注意机制。

阅读价值

值得阅读之处在于检验 GPT 注意力指标能否在 surprisal 与词汇熵之外解释自然阅读中的 N400 变异;作者报告了增量解释力,但其效应大小、统计稳健性及跨被试预测能力仍需核对全文。

来源:OpenReview · EEG · openreview.net