函数空间时序自蒸馏

基于摘要分析。该研究面向语言模型推理与工具使用：可验证奖励强化学习（RLVR）的标量结果难以细致监督生成轨迹，而反馈辅助的自教师又会随学生共同更新，造成监督目标不稳定。作者提出 Function-Space Temporal Self-Distillation（FTSD），将当前的特权信息适应与函数空间时序巩固结合，以单策略框架提供更稳定的 token 级指导。 其核心机制是稀疏保存历史 next-token 分布，并将其作为固定的时序目标，从而在不维护常驻教师模型的情况下实现时间上的目标分离。框架还包含三类调节：通过特权信息下的分歧校正抑制局部被高估的动作；当自生成证据反复失败时，以可靠性自适应机制加强参考监督；依据质量与覆盖度管理时序记忆，保留已验证行为并改进特权示范。摘要未给出这些模块的具体损失、触发规则或存储策略。 作者报告，在推理与工具使用基准、5 小时训练预算下，FTSD 获得所比较方法中的最高平均 Accuracy，相比最强基线平均提高约 4 个百分点；在 Olmo3-7B-Instruct 上，峰值显存由约 70 GB 降至 56 GB。具体基准、基线名称、硬件、数据划分、消融及统计信息尚未验证，因此这些结果不能外推至其他训练预算或模型。 该方法依赖自回归 token 分布、反馈辅助适应及可验证行为，摘要并未提供 EEG 或 BCI 验证。其时序目标稳定化思路与神经信号任务是否存在可操作的对应关系仍待评估，不宜将语言模型结果视为 BCI 有效性证据；相关 EEG 工作尚未检索确认。