跳到正文
arXiv · 多模态与生成机制· Liam Moroy; Jean-François Giovannelli; Yoann Altmann; Steve McLaughlin; Frédéric Champagnat; Guillaume Bourmaud·· 7 天前精选AI 评分78

扩散与 flow-matching 后验采样中的引导权重合理设定

Getting Your Guidance Weights Right in diffusion and flow-matching posterior sampling

AI 导读

基于摘要分析。该研究针对免训练后验采样(亦称 Plug-and-Play)中先验与测量一致性之间的引导权重通常依赖启发式调节的问题,提出离线自动优化策略,在不重新训练或微调预训练生成模型的前提下,为各时间步确定引导权重。 核心机制是:扩散模型的条件去噪 score-matching 目标及 flow-matching 模型的条件训练目标均具有最小二乘形式。当条件预测表示为无条件网络输出与测量引导项的加权和时,对这两个权重的优化可转化为二维线性最小二乘问题。权重针对给定测量算子、噪声水平和采样器离线求解;作者报告,其计算成本为一个 minibatch 的采样轨迹。这一方法调整的是采样阶段的组合权重,而非预训练模型参数。 作者使用标准的基于 Tweedie 的测量一致性项实例化该策略,并报告在所评估的扩散与 flow-matching 方法中改善后验采样、达到最先进的重建性能。作者还报告,在其扩散采样实验条件下,采样步数可由 1000 降至 50,而重建质量无显著下降。摘要未提供数据集、测量任务、噪声设置、重建指标及具体对照,因此上述结果的适用范围、实验协议、消融及统计信息尚未验证。代码为计划公开,当前材料不能确认已可获取。 平台推测(待验证):迁移假设是,在 EEG 源重建或缺失通道重建等具有明确测量算子的逆问题中,该策略可能缓解先验约束与观测一致性之间的调参负担。可复用部分是逐时间步的低维权重拟合;需改造部分包括 EEG 生成先验、测量算子及噪声模型。其依赖适配的预训练无条件生成模型和具有代表性的离线轨迹;低信噪比、跨被试分布差异、通道配置变化及小数据条件可能使已优化权重失效。一个可检验的小实验是在固定 EEG 通道掩码和噪声条件下,保持模型与采样器一致,对比启发式权重和离线优化权重,并在独立被试上核对重建误差及采样步数变化。已有 EEG 相关工作尚未检索确认。

阅读价值

该研究将逐时间步的引导权重调节转化为二维线性最小二乘问题,为复现免训练后验采样时减少启发式调参提供了明确路径,但重建性能与采样加速仍需结合完整实验协议核对。

来源:arXiv · 多模态与生成机制 · arxiv.org