Diffusion Transformers 中的表征几何：哪些属性对生成质量重要？

基于摘要分析。本文研究图像生成中的 diffusion 与 flow-matching 模型，考察哪些内部表征属性真正有助于判断生成质量，并能为辅助训练目标的设计提供依据。核心贡献是将训练轨迹内的相关性、不同模型间的预测能力及直接优化这些属性的干预效果分开检验，避免把随训练共同变化的指标直接当作有效优化方向。 作者测量了 diffusion transformer（SiT-XL/2）表征的八种属性，并在三种设置下分析其与生成质量的关系：单次训练轨迹；仅对齐目标 vision encoder 不同的 16 个 REPA 和 iREPA 模型；采用不同表征引导目标训练的模型。生成质量以 Fréchet Inception Distance（FID）衡量。摘要未列出八种属性的具体定义，也未提供各模型的 FID 数值。 作者报告，若干表征属性在单次训练过程中与 FID 强相关，但模型收敛后，其中一些属性无法区分生成表现更好与更差的模型。在将这类属性转为辅助训练目标的干预实验中，作者报告收益为零或仅有边际改善。因此，轨迹内相关性本身不足以支持某属性对生成质量具有优化价值。作者还报告，在不同实验设置下持续具有预测能力的属性，大体对应于近期成功方法显式或隐式优化的属性。 复现时需核对表征属性的计算方式、表征提取位置与噪声条件、训练预算、FID 评估协议，以及辅助目标的具体形式和权重；这些细节及消融、统计信息尚未验证。本文主要证据来自图像生成，不能据此认定相同属性能改善 EEG 表征或 BCI 解码；已有 EEG 相关工作尚未检索确认。