跳到正文
arXiv · 多模态与生成机制· Zhuobai Dong; Junchao Yi; Hu Jian Guo; Linjie Li; Rui Zhao; Alex Jinpeng Wang·· 21 小时前精选AI 评分78

Glance Forcing:以极少轨迹监督将双向扩散转为自回归生成

Glance Forcing: Making Bidirectional Diffusion Autoregressive at a Glance

AI 导读

该研究面向实时、因果视频生成及视频世界模型,提出 Glance Forcing,以分阶段专家蒸馏降低双向扩散模型转换为因果少步生成模型时的 PF-ODE 轨迹监督成本。基于摘要分析,尚未取得论文全文。 作者指出,既有转换流程依赖昂贵的离线 Probability Flow ODE(PF-ODE)轨迹采集;将轨迹监督压缩至单一样本时,生成质量会严重下降。作者将这一现象归因于教师去噪轨迹的阶段差异:高噪声阶段主要涉及语义布局与运动,低噪声阶段主要涉及细节纹理,两者的曲率与优化行为不同,单一学生联合拟合时会产生表征干扰。这是作者提出的机制解释,尚需结合正文实验核对。 Glance Forcing 将去噪轨迹解耦为互补的 slow 与 fast 专家,分别采用阶段特定目标,并保持预训练教师完全冻结。摘要未给出专家结构、阶段边界及具体损失。作者进一步认为,PF-ODE 蒸馏主要用于拉直少步轨迹几何,而后续 distribution-matching 阶段独立影响生成分布质量。 作者报告,仅使用一条 PF-ODE 轨迹时,VBench Total 从其所称充分训练的最先进基线的 84.04 提升至 84.22,轨迹采集成本由数千 GPU-hours 降至约一个 A100-GPU-hour;该成本指轨迹采集,不能据此视为总训练成本。作者还报告 dynamic degree、VisionReward、指令遵循及人工偏好有所改善,但摘要未提供具体数值、评估样本量或统计不确定性。基线身份、生成设置、实验协议、消融及统计信息尚未验证。 该工作的直接研究对象是视频生成,而非 EEG 解码或 BCI。其机制依赖预训练扩散教师与可分阶段处理的去噪轨迹,不能直接视为神经信号任务中的有效方法;摘要尚不足以确立具体 EEG 迁移路径,已有 EEG 相关工作也尚未检索确认。复现需进一步核对教师模型、轨迹采样方式、专家训练目标及完整计算预算。

阅读价值

值得核对的是,Glance Forcing 将少步视频蒸馏中的轨迹几何拟合与分布质量优化分开讨论,并报告极低轨迹采集成本下的质量提升,但其机制解释、成本口径及对照公平性仍需全文验证。

来源:arXiv · 多模态与生成机制 · arxiv.org