TamedFlow：教师辅助采样的轨迹蒸馏

基于摘要分析。本文研究图像与视频生成中 Diffusion Transformers（DiTs）的推理加速，提出 TamedFlow，使压缩学生模型能够在教师辅助采样中连续执行短程预测，而非仅拟合教师状态上的单点输出。 作者将所评估的自适应推理方法直接用于压缩学生后出现的质量退化称为 Combination Gap，并将其关联到单点蒸馏与短程连续执行之间的不匹配：学生在教师状态上预测可靠，并不保证串联自身预测后仍然可靠。TamedFlow 结合跨架构特征对齐、近恒等的 Velocity Alignment Head 与随机 rollout 监督，针对实际部署中的学生执行轨迹训练。推理时，轻量 Learnable Trajectory Estimator（LTE）判断已完成的候选轨迹；接受则绕过教师，拒绝则回退并执行一次教师补救步骤。 作者报告，在 ImageNet 256×256 上将 DiT-XL/2 蒸馏为 DiT-B/2，相对 DDIM-50 获得 2.25 倍实测加速，FID 为 2.58。作者报告消融支持轨迹监督的作用，且在延迟近似匹配的路由对照中，LTE 优于随机决策。摘要另列出 ImageNet 512×512、MS-COCO 和 Latte/FaceForensics 评估，但未提供对应结果。具体损失、轨迹长度、路由训练与阈值、测速硬件、完整实验协议及统计信息尚未验证。 平台推测（待验证）：若目标是 EEG 条件扩散生成或重建任务，可检验“学生连续执行时的状态偏移”是否也是压缩后的瓶颈；这不等同于常规 EEG 分类加速。潜在可复用部分是 rollout 监督与教师回退机制，特征对齐及 LTE 则需适配 EEG 条件信息与生成目标，并依赖教师轨迹及候选质量监督。低信噪比、跨被试或通道变化可能导致路由误接受，小数据也可能限制估计器训练。可先在固定被试内划分和同一教师下，对比单点蒸馏与加入轨迹监督的学生，在相同教师调用预算下评估质量和延迟。相关 EEG 工作尚未检索确认。