跳到正文
OpenReview · State space models· Theodoros Kouzelis; Ioannis Kakogeorgiou; Spyros Gidaris; Nikos Komodakis·· 2025-06-23精选AI 评分78

EQ-VAE:以等变性正则化潜空间改进图像生成建模

EQ-VAE: Equivariance Regularized Latent Space for Improved Generative Image Modeling

AI 导读

EQ-VAE 研究图像潜变量生成模型中自编码器的表征问题,提出通过等变性正则化,使潜空间更好地响应缩放、旋转等保持图像语义的变换,从而改善下游生成建模。基于摘要分析,未取得论文全文;研究对象是图像生成,并非 EEG 或 BCI。 核心机制:作者认为,现有自编码器缺乏对上述变换的等变性,使潜空间分布复杂、增加生成建模难度。EQ-VAE 通过微调预训练自编码器约束潜空间的变换行为;等变性强调输入变换与潜表示变换相对应,而非要求表示完全不变。具体损失形式、变换实现及潜空间复杂度的测量方式尚未验证。 结果与适用范围:作者报告,该方法在不降低重建质量的情况下改善 DiT、SiT、REPA 和 MaskGIT 等生成模型,并在仅进行五个 epoch 的 SD-VAE 微调后,使 DiT-XL/2 获得 ×7 加速。摘要未明确该加速对应的计算环节、目标质量、比较基线和资源条件,不能据此解释为推理速度提升。作者还报告方法兼容连续与离散自编码器。数据集、评估指标、实验协议、消融及统计信息尚未验证;材料提供了项目与代码入口,但实现及复现条件未核对。 平台推测(待验证):可迁移的假设是,以任务语义保持的信号变换约束 EEG 编码器,或可改善潜表示结构;但图像缩放与旋转不能直接视为 EEG 的语义保持变换。可复用的是等变性正则思路,需改造输入变换、潜空间对应操作及信号重建目标。低信噪比、跨被试差异、通道布局变化和小数据均可能使约束失效,或抹除任务相关信息。一个小规模可证伪实验是在固定 EEG 数据划分下,对同一编码器比较有无该正则,先核验候选变换是否保留任务标签,再分别测量重建误差、等变误差与下游任务指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是,对预训练自编码器施加等变性正则是否能在保持重建质量的同时简化潜空间并提升下游生成效率;其对 EEG 表征学习的适用性尚未验证。

来源:OpenReview · State space models · openreview.net