LLM 深层表征揭示默读期间 EEG 中的篇章级上下文信息

该研究探讨默读 EEG 中可解码的词级信息与篇章上下文信息，如何分布于 LLM 的不同深度，并将目标层选择作为 EEG 语言解码的设计变量。基于摘要分析，未取得论文全文。 作者在此前使用 19 通道默读 EEG、将短时 EEG 窗口与所呈现词的 LLM 隐状态嵌入对齐的研究基础上，对 Llama-3.1-8B 的各层分别训练解码器，并比较是否使用处理 EEG 窗口序列的因果 Transformer。此前分析仅对比模型所述 33 层中的无上下文输入嵌入与一个中间层，本研究扩展到完整深度。 作者报告，在这一逐层比较中，词级可解码性在早期层达到峰值，随后向末层持续下降；检索增益中的上下文追踪成分则随深度增加，且在有、无因果 Transformer 时均出现。作者还报告，每次仅接收单个 0.5 秒 EEG 窗口的解码器也能追踪文本篇章。摘要未提供相应指标数值或效应大小。 研究设置两类控制：其一，以真实目标加噪声构建合成预测器，并按各解码器的词级准确性校准，用于检验词解码能力与目标表征几何能否解释上下文追踪；其二，在同一会话或不同会话的运行之间置换预测，用于检验 EEG 记录会话特征的影响。作者据此认为，上下文追踪并非仅由词解码及目标几何产生，且大部分追踪效应随文本而非记录会话变化。 这些结果支持作者关于早层更突出词身份、深层更突出篇章状态的解释，但不等同于已实现自由文本重建，也不能据摘要确定单窗信息对应的具体神经机制。被试数量、文本与窗口划分、被试内或跨被试泛化、检索候选设置、上下文成分的计算方式，以及实验协议、消融及统计信息尚未验证；复现时需核对这些条件及目标嵌入的上下文构建方式。