跳到正文
OpenReview · Representation learning· Zheyuan Hu; Chieh-Hsin Lai; Ge Wu; Yuki Mitsufuji; Stefano Ermon·· 2026-09-17精选AI 评分78

结合 Representation Autoencoders 的 MeanFlow Transformers

MeanFlow Transformers with Representation Autoencoders

AI 导读

基于摘要分析。该研究面向图像少步生成,针对 MeanFlow(MF)在 Stable Diffusion 变分自编码器(SD-VAE)潜空间中训练开销大、稳定性不足,以及解码与条件引导成本较高的问题,提出在 Representation Autoencoder(RAE)潜空间中训练和采样 MF 的方案。原论文的主要研究对象是图像生成,而非 EEG 解码或 BCI。 RAE 以预训练视觉编码器(如 DINO)提取语义丰富的潜表示,并配合轻量解码器。作者观察到,直接在该潜空间训练 MF 会出现严重梯度爆炸,因此引入 Consistency Mid-Training 进行轨迹感知初始化;随后从预训练 flow matching 教师蒸馏,以加快收敛并降低方差,再可选地使用单点速度估计器进行 bootstrapping,以进一步减小与 oracle mean flow 的偏差。作者称该方案无需 guidance,并简化训练配置;具体损失、估计器形式及各阶段成本尚未验证。 作者报告,在 ImageNet 256 的单步生成评估中,该方法的 FID 为 2.03,vanilla MF 为 3.43;相对该基线,采样 GFLOPS 降低 38%,总训练成本降低 83%。在 ImageNet 512 单步生成中,作者报告 FID 为 3.23,且 GFLOPS 为所比较基线中最低。摘要未提供完整基线配置、计算成本核算边界及统计信息,实验协议、消融及统计信息尚未验证,不能据此推断其他分辨率或任务上的优势。 平台推测(待验证):若将该机制用于 EEG 生成,可能复用教师蒸馏与轨迹初始化来缓解少步生成训练的不稳定性,但需以适合 EEG 时序和通道结构的编码器、解码器替代视觉 RAE,并依赖足够可靠的教师与训练数据。低信噪比、跨被试差异、通道变化和小数据可能使潜表示或教师偏差主导结果。一个可检验的小实验是在固定 EEG 数据划分、潜表示与教师的条件下,对比直接 MF 训练和加入初始化、蒸馏后的训练稳定性与等预算生成质量;图像 FID 不应直接充当 EEG 有效性指标。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其如何以轨迹感知初始化和教师蒸馏稳定 RAE 潜空间中的 MeanFlow 训练,以及报告的计算节省是否包含教师与自编码器成本;其价值目前限于图像生成,尚无 EEG/BCI 有效性证据。

来源:OpenReview · Representation learning · openreview.net