重新审视预测时间跨度:在少步 MeanFlow 中解耦模型查询与状态更新
Rethinking Prediction Horizons: Decoupling Model Queries from State Updates in Few-Step MeanFlow
基于摘要分析。本文研究少步 MeanFlow 图像生成中,模型查询的预测时间跨度是否必须与实际状态更新时长一致。核心方法是在推理时查询更长时间区间的平均速度,同时保持状态网格、更新时长、模型检查点和查询次数不变,从而将预测跨度作为独立的推理配置变量。 机制与条件:MeanFlow 预测查询区间上的平均速度,常规少步采样将该区间与状态更新区间绑定。作者报告,在 CFG scale 为 2 的七个独立训练 CIFAR-10 检查点上,延长预测跨度在采样早期使 FID 变差,但在采样中点改善 FID;收益还依赖进入当前步骤的状态分布。在五个此前研究过的检查点上,作者于查看留出析因实验结果前冻结假设,仅改变前序 CFG、固定当前及后续引导,平均跨度收益由 0.109 增至 1.308 FID。这支持其效果不能脱离采样位置及前序轨迹单独判断。 作者报告,冻结的四次查询调度无需重新训练或增加查询,使 CIFAR-10 平均 FID 降低 2.023,改善也出现在规则选定后训练的五个检查点上。在从 84 个预定义时间步候选中选出的更强网格上,较温和的冻结规则进一步使平均 FID 降低 1.041,并无需重新调参地迁移至所评估的公开 ImageNet-256 和 AFHQ 检查点。 对照与边界:作者报告,在匹配新增校准预算的历史 CIFAR 测试中,起始时间平移比仅调整预测跨度取得更低的 FID/KID;在两个公开 ImageNet 模型上,所测试的 Horizon allocation 未在 Grid+Start 之外增加 FID 收益。因此,结果支持预测跨度是依赖配置的时间控制手段之一,而非普遍优于其他时间控制。选择完成后的推理不增加查询,但所评估的选择过程使用目标生成轨迹,不能将其理解为无需校准成本。 完整实验协议、各规则定义、消融及统计信息尚未验证。本文主要对象是图像生成,不是 EEG 解码或 BCI;摘要未提供可直接支持 EEG 迁移的机制对应,已有 EEG 相关工作尚未检索确认。
值得阅读的是其在固定检查点、状态更新网格与查询次数下隔离预测时间跨度的作用,并通过冻结规则和匹配校准预算的对照,明确该推理控制的收益边界。
来源:OpenReview · State space models · openreview.net