RDSR:用于图像超分辨率的重参数化轻量扩散模型
RDSR:Reparameterized Lightweight Diffusion Model for Image Super-Resolution
基于摘要分析。本文研究图像超分辨率中扩散模型的实际推理效率问题:减少参数量和 FLOPs 并不必然缩短运行时间。作者提出 RDSR,将潜在先验编码器、重参数化解码器与以退化图像为条件的扩散模型结合,旨在有限计算资源下兼顾重建质量和推理效率;研究对象是图像重建,而非 EEG 或 BCI。 核心机制:Latent Prior Encoder(LPE)先使用成对的高分辨率(HR)与低分辨率(LR)图像块预训练,将像素空间输入映射到潜在空间。Reparameterized Decoder(RepD)在训练时采用多分支结构,推理时采用 VGG-like 主体,仅堆叠 3×3 卷积与 ReLU。扩散模型连接 LPE 与 RepD:LPE 通过蒸馏损失监督反向扩散过程,其输出作为调制信号指导 RepD 重建。具体损失形式、分支合并方式与采样步数尚未验证。 作者报告,在图像超分辨率基准中,RDSR-2.2M 在 DIV2K100 上达到 30.11 dB PSNR,并优于同量级的扩散模型;摘要未给出该结果的放大倍率、退化设置及具体对照分数。作者另报告,在 Intel(R) Xeon(R) Platinum 8255C CPU 上,相比 DiffIR 推理速度提高 55.8 倍,并称 GPU 显存占用降低。输入尺寸、线程数、数值精度、计时边界及显存数值尚未验证,因此不能将这些结论直接推广到其他硬件或部署条件。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可考虑借鉴的是训练期多分支、推理期简化结构的部署机制,而非将图像超分辨率效果视为 BCI 效果。假设该机制用于 EEG 时序模型,需把图像二维卷积改造成适配时间轴与通道布局的算子;原方法依赖成对 HR/LR 图像监督,不能直接等同于 EEG 监督。低信噪比、跨被试分布变化及小数据可能削弱收益。一个可证伪的小实验是在相同 EEG 数据划分与 CPU 配置下,对比重参数化模型和匹配规模的单分支基线,核对合并前后输出一致性、任务指标及端到端延迟。已有 EEG 相关工作尚未检索确认。
值得核对其训练期多分支、推理期简化卷积结构的重参数化设计,以及真实 CPU 耗时与参数量、FLOPs 是否一致改善;摘要中的速度优势仍需结合完整测试配置验证。
来源:OpenReview · State space models · openreview.net