跳到正文
OpenReview · State space models· Wenkun He; Yuchao Gu; Junyu Chen; Dongyun Zou; Yujun Lin; Zhekai Zhang; Haocheng Xi; Muyang Li; Ligeng Zhu; Jincheng YU; Junsong Chen; Enze Xie; Song Han; Han Cai·· 2025-09-09精选AI 评分77

DC-Gen:利用深度压缩潜空间进行扩散模型后训练加速

DC-Gen: Post-Training Diffusion Acceleration with Deeply Compressed Latent Space

AI 导读

基于摘要分析。DC-Gen 针对文本到图像扩散模型在高分辨率生成中的效率问题,通过深度压缩潜空间减少计算负担,并采用后训练流程保留基础模型的生成质量,而非从头训练。其主要研究对象是图像生成模型,不是 EEG 或 BCI 解码。 核心机制是处理基础模型潜空间与深度压缩潜空间之间的表示差异:摘要指出,直接微调可能因这种差异而不稳定,DC-Gen 因此先进行轻量嵌入对齐训练,再以少量 LoRA 微调恢复基础模型的生成能力。相较于仅从其他计算环节加速扩散模型,该工作聚焦潜空间冗余;具体压缩结构、对齐目标、训练数据规模及微调配置尚未验证。 作者报告,在 SANA 与 FLUX.1-Krea 上得到的 DC-Gen-SANA 和 DC-Gen-FLUX 具有与基础模型相当的生成质量。作者报告,DC-Gen-FLUX 在 NVIDIA H100 GPU 上进行 4K 图像生成时实现 53 倍延迟加速;结合 NVFP4 SVDQuant 后,在单张 NVIDIA 5090 GPU 上生成一张 4K 图像需 3.5 秒,相较基础 FLUX.1-Krea 的总延迟加速为 138 倍。这两个结果涉及不同硬件及量化组合,不能直接归为深度潜空间压缩的独立收益。质量指标、推理步数、计时范围、基线配置、消融及统计信息尚未验证。 摘要称代码与模型将发布,不能据此认定已可获取。平台推测(待验证):对已有生成模型,先对齐压缩表示再进行参数高效微调,可能为压缩后适配提供思路;但材料未提供 EEG 数据结构、监督条件或神经信号生成质量方面的证据,不能推断其具备 BCI 加速收益,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其以轻量嵌入对齐缓解深度压缩潜空间表示差异、再用 LoRA 恢复生成质量的后训练流程,但加速与质量保持的具体评估协议尚未验证。

来源:OpenReview · State space models · openreview.net