跳到正文
OpenReview · Representation learning·· 2026-09-18精选AI 评分78

PreSO:用于 On-Policy 自蒸馏的特权表征隔离

PreSO: Privileged Representation Isolation for On-Policy Self-Distillation

AI 导读

基于摘要分析。本文研究可验证奖励强化学习(RLVR)中的 On-Policy 自蒸馏(OPSD):当自教师利用学生推理时不可获得的特权信息提供逐 token 监督时,哪些表征变化值得蒸馏?PreSO 以跨问题反复出现的表征偏移为线索,通过紧凑提示与低秩子空间投影,构造表征级蒸馏目标;主要研究对象是数学推理模型,而非 EEG 或 BCI。 机制上,作者比较完整解答与紧凑提示引发的表征偏移,报告后者在不同问题间更集中、方向更一致,且尽管透露的信息更少,下游收益更持久。PreSO 在源端用紧凑提示限制特定解答细节的引入;在目标端汇集相关问题的表征偏移,估计主导低秩子空间,将特权信息引起的修正投影到该子空间,再加到学生无特权信息时的表征上。作者强调,该子空间只是反复出现结构的操作性代理,并不保证分离可迁移信息与实例特有信息。 作者报告,在五个竞赛级数学基准上,PreSO 在 Qwen3-1.7B、4B 和 8B 三种规模下均优于强基线,相对基础模型的平均 Accuracy 分别提高 6.8、9.0 和 10.0 个百分点;各规模最终检查点的平均 Accuracy 也最高,收益持续至训练结束。摘要未提供基准名称、数据划分、基线明细、提示构造、子空间秩、损失形式及训练成本,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可供跨领域考察的机制是从训练期特权信息中筛选跨样本重复的表征修正,但这依赖相关问题的组织方式及可比较的表征空间。当前材料未建立与 EEG 瓶颈的具体对应关系,也未提供 EEG/BCI 验证;已有 EEG 相关工作尚未检索确认,不宜据此推断 BCI 效果。

阅读价值

值得核对其利用跨问题表征偏移构建低秩蒸馏目标的机制,以及最终检查点收益是否稳健;摘要明确将该子空间限定为可复用结构的操作性代理,而非可迁移信息的保证。

来源:OpenReview · Representation learning · openreview.net