A-OPSD：面向大语言模型的激活空间同策略自蒸馏

基于摘要分析。本文研究大语言模型推理训练中的同策略自蒸馏（OPSD）：能否不经过完整词表上的分布匹配，而直接在模型隐状态空间传递教师的特权监督信号。提出的 A-OPSD 比较了一系列激活空间目标，包括直接隐状态匹配，以及由 OPSD 损失局部几何导出的度量。 原始 OPSD 中，教师与学生使用同一模型，但教师同时接收问题与参考解答，学生只接收问题；监督作用于学生自身生成的轨迹。既有方法在语言建模头输出后进行稠密的 token 级分布匹配，其计算与存储负担涉及完整词表。本文将监督位置转向隐状态，并研究通过语言建模头把 OPSD 的 KL 损失几何拉回激活空间的 Gauss–Newton（Fisher）度量。摘要未给出具体损失公式、隐状态选取位置或度量的计算实现，相关细节尚未验证。 作者报告，在 Qwen3 与 OLMo-3-7B 模型上、所测模型规模范围为 1.7B 至 8B 的数学推理实验中，直接隐状态匹配即可达到 token 级 OPSD 的表现，而上述几何度量可以超过它；A-OPSD 在 MATH-500、AIME24、HMMT25 上达到或超过 token 级 OPSD，同时减少监督所需显存。摘要未提供逐模型分数、评估指标、显存降幅和完整训练及评估协议，实验协议、消融及统计信息尚未验证。 该研究的主要对象是依赖参考解答和学生生成轨迹的大语言模型数学推理，并非 EEG 或 BCI。其监督结构与语言建模头的词表几何密切相关，不能据此推断对神经信号建模有效；已有 EEG 相关工作尚未检索确认。