学会之后再教我：面向 RLVR 的前瞻自蒸馏

基于摘要分析。本文研究 LLM 的 on-policy 自蒸馏（OPSD）如何利用跨实例监督，提出 Lookahead Self-Distillation（LEAD）：让教师先通过其他实例的 rollout 进行虚拟强化学习更新，再为学生提供 token 级监督。其主要贡献是将同一实例的特权信息监督扩展为跨实例蒸馏，并协调蒸馏信号与可验证奖励强化学习（RLVR）信号。 机制上，既有 OPSD 利用特权信息诱导的分布监督模型自身分布。LEAD 将 on-policy rollouts 划分为互不重叠的子集，在各子集上执行虚拟 RL 更新以构造前瞻教师，再由教师向另一子集提供跨组 token 级监督。摘要未说明特权信息的具体形式、虚拟更新步数、蒸馏损失或教师维护方式，这些实现条件尚未验证。 为处理 OPSD 与 RLVR 信号可能互补也可能冲突的问题，作者引入 harmonious modulation，根据两类信号的一致程度自适应调制 GRPO advantage。具体一致性度量、调制公式及其对训练稳定性与计算成本的影响，需核对正文。 作者报告，在科学推理与交互式智能体基准、不同模型规模的实验中，LEAD 获得所比较方法中最佳的域内平均表现，同时保持与 GRPO 相当的域外泛化。摘要未给出基准名称、模型规模、指标数值或数据划分，因此不能量化收益，也不能将该结果外推为任意分布偏移下的优势；实验协议、消融及统计信息尚未验证。 原论文的研究对象是 LLM 推理与智能体训练，而非 EEG/BCI。摘要未提供神经信号任务中的对应奖励、特权信息或验证结果，故不据此认定其具有 BCI 迁移效果；相关 EEG 工作尚未检索确认。