FocusOPD：面向扩散模型的结构引导同策略蒸馏

基于摘要分析。该研究面向采用 diffusion-transformer 架构的 rectified-flow 生成模型，研究多教师同策略蒸馏（on-policy distillation，OPD）中，输出匹配后仍存在的师生内部表征不一致问题。提出的 FocusOPD 在基础 OPD 目标上加入选择性特征监督，旨在将多个教师的任务能力整合到单个学生模型。 作者分析了不同 Transformer 块及去噪时间步的师生特征差异，报告差异集中于早期去噪阶段的较深 Transformer 块，并在 OPD 蒸馏后仍然存在。FocusOPD 据此仅在深层和早期去噪步骤施加逐 token 的方向性特征对齐，而非覆盖全部网络层与去噪轨迹。摘要未给出方向对齐的数学定义、损失权重、师生特征对应方式及监督区间的选择细节。 作者报告，在两个 rectified-flow 骨干及多种 OPD 目标下，FocusOPD 改善了组合式生成、文本渲染和基于偏好的评估表现。在摘要所称的主要基准设置下，相较 DiffusionOPD，GenEval 从 0.953 提升至 0.967，PickScore 从 23.797 提升至 23.944，LAION-Aesthetic 从 6.052 提升至 6.199；这些数值属于各自指标，不能解读为统一的 Accuracy 或百分比提升。作者还报告，消融中选择性深层、早期监督比全网络、全轨迹对齐更有效且更高效，但摘要未提供对应计算开销或统计不确定性。 阅读与复现的重点是核对特征差异的测量方式、监督位置与时间范围的确定依据，以及各对照是否采用一致的训练和推理预算。骨干名称、训练数据、评估划分、实验协议、消融及统计信息尚未验证。该论文的主要对象是生成模型蒸馏，摘要没有提供 EEG/BCI 实验或明确的神经信号机制对应关系，因此不据此推断 BCI 有效性；已有 EEG 相关工作尚未检索确认。