在预测 Token 的同时预测奖励：面向大语言模型高效推理干预的非破坏性参数插入

基于摘要分析。本文研究 Transformer 大语言模型（LLM）的推理干预效率，提出 Non-disruptive parameters insertion（Otter）：向原 Transformer 架构插入额外参数，在生成原有 LLM 输出的同时预测奖励等校准信号，以减少使用独立校准模型引导解码所带来的时间与空间开销。 原问题是缓解 LLM 的不安全回答、不可靠推理等行为，而非神经信号建模。已有推理干预方案通过额外微调的模型提供校准信号；Otter 则将这类预测能力整合进原模型。摘要称，参数插入后仍可访问原模型的回答，但未说明插入位置、训练目标、监督来源，以及校准信号如何参与解码，相关机制细节尚未验证。“保留原模型回答的可访问性”也不应直接理解为所有输出或能力完全不变。 作者报告，Otter 在多个具有挑战性的任务上达到最先进表现，并且相对使用独立模型的方案，额外空间开销最高减少 86.5%、额外时间开销最高减少 98.5%。摘要未提供对应任务、基线、硬件、批量大小或测量口径，因此这些数值只能作为特定但尚未明确的评估条件下的作者报告，不能等同于总显存或端到端推理时间的同比降幅。作者还称其可通过一行代码修改接入现有推理引擎；支持范围与复现条件仍待正文核对。 实验协议、消融及统计信息尚未验证。材料没有提供 EEG/BCI 数据、任务或具体机制对应，不能据此认定其对 BCI 有效；已有 EEG 相关工作尚未检索确认。