学习接受引导:为 Classifier-Free Guidance 塑造潜在空间几何
Learning to Be Guided: Shaping Latent Geometry for Classifier-Free Guidance
基于摘要分析。本文研究条件潜在扩散模型中的类别几何:潜在空间不仅要易于扩散建模,还需使条件的空间分布适合 Classifier-Free Guidance(CFG)。作者从离散类别条件出发分析这一问题,并提出 Prototype Regularization(PR),以轻量正则化塑造适合引导生成的表征。 理论机制方面,作者在高斯类别模型下指出:保持总方差不变,将方差从类内转移至类间,可提高加噪后类别的可区分性;进一步推导带噪后验目标,其单样本下降方向与 oracle CFG 校正成比例。PR 是该难以直接求解目标的替代方案,在空间池化后的潜在表征上应用余弦原型分类器。具体目标形式、理论适用条件及其与重建质量的权衡尚需正文核对。 作者报告,在 ImageNet 上控制训练预算为 VAE 20 个 epoch、DiT 80 个 epoch 时,为 LDM 基线加入 PR,使引导生成的 gFID 从 3.31 降至 2.28,优于采用 DINOv3 对齐的 VA-VAE 对照结果 2.44,并称额外开销可忽略。作者还报告其可推广至聚类伪标签、连续文本嵌入条件及视频潜在表征,但摘要未提供这些扩展的具体指标。数据划分、CFG 强度、采样设置、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,在具备条件扩散生成器和标签的 EEG 潜在建模中,原型约束或可改善加噪后的条件可分性;这不是已证实的 EEG 解码收益。可复用原型约束思路,但需将图像空间池化改造为适合 EEG 时序与通道结构的聚合方式。低信噪比、跨被试分布差异和小样本可能使原型编码被试特征,或压缩有用的类内生理变化。一个可证伪的小实验是在固定跨被试划分、训练预算与 CFG 设置下,仅比较加入 PR 前后的条件生成质量、重建保真度和下游解码表现。相关 EEG 工作尚未检索确认。
值得核对其“类别几何—CFG 校正”理论联系及 Prototype Regularization 的受控训练对照,但现有证据限于生成建模,尚不能据此判断 EEG/BCI 有效性。
来源:arXiv · 表征与预训练 · arxiv.org