超越历史张成空间:面向高效扩散推理的状态引导张成空间扩展
Beyond the History Span: State-Guided Span Expansion for Efficient Diffusion Inference
基于摘要分析。本文研究 Diffusion Transformers 在多步采样中反复进行模型求值所带来的计算开销,提出 state-guided span expansion(SGSE),利用采样状态提供的补充方向扩展历史速度的线性张成空间,以改善跳过模型求值时的速度预测。主要研究对象是图像与视频生成中的扩散推理加速,并非 EEG 或 BCI。 现有预测式加速方法将被跳过步骤的 Transformer 速度表示为历史速度的线性组合。摘要指出,这类预测无法表达历史张成空间之外的速度分量,误差因而可能随连续预测步骤累积。SGSE 先预测采样状态,再通过采样器更新的逆映射获得状态隐含速度,并提取其中位于历史张成空间之外的分量,将其作为补充方向加入速度预测。作者报告,该分量与完整 Transformer 求值得到的速度中相应空间外分量具有方向相似性,为扩展预测表示空间提供依据;具体预测形式、逆映射的适用条件及方向相似性的度量尚未验证。 作者报告,在图像与视频生成实验中,SGSE 持续优于已有的预测式加速方法。但摘要未提供数据集、模型规模、采样器、跳步协议、比较基线、生成质量指标或实际运行耗时,因而尚不能量化其收益,也不能据此判断不同加速设置下的质量与速度权衡。实验协议、消融及统计信息尚未验证。 该方法的机制依赖扩散采样状态、速度预测与采样器更新之间的对应关系,不能直接视为通用时序预测或 BCI 解码方法。其对 EEG/BCI 的适用性尚未验证,已有 EEG 相关工作尚未检索确认。
值得核对 SGSE 如何利用采样状态补充历史速度线性张成空间之外的信息,以及该机制在连续跳过模型求值时能否稳定降低误差;摘要尚不足以验证其加速收益与生成质量之间的权衡。
来源:OpenReview · State space models · openreview.net