学习用于引导像素扩散 Transformer 的表征

基于摘要分析。本文研究什么样的视觉表征真正有助于像素扩散 Transformer 生成，并提出 Representation Guidance（RG）：在保留普通 Transformer 架构的同时，通过低维瓶颈形成紧凑的内部表征，再显式利用该表征引导生成。 作者提出两项观察：一是更好的表征质量不必然带来更高的生成效用，因为外部对齐的语义信息可能在像素合成过程中逐渐丢失；二是引入专用像素解码器的架构分离，主要重新分配语义与空间建模任务，并不必然产生更适合生成的表征。这些观察支持作者的设计主张：生成表征既需要被适当形成，也需要被主动利用。 机制上，RG 用低维瓶颈将生成相关信息压缩到紧凑表征中，再根据该表征诱导的预测偏移修改 flow-matching 目标，从而引导解码器生成。摘要未给出瓶颈维度、预测偏移及目标修改的具体公式，尚不能判断其实现细节与适用边界。 在 ImageNet 256×256 生成评估中，作者报告参数量为 459M 的 RG-L/16 优于参数规模明显更大的像素扩散 Transformer，RG-XL/16 的 FID 为 1.55；但摘要未列明前述对照模型及其分数。作者另报告在 512×512 生成评估中达到 FID 1.74，并在文本到图像生成中取得 GenEval 0.89、DPG-Bench 87.1；后两类评估的完整数据设置、采样与引导配置尚未验证。 复现时需核对表征质量与生成效用各自的测量方式、瓶颈和目标调整的独立贡献，以及参数和计算效率的比较条件。实验协议、消融及统计信息尚未验证。本文主要研究对象是视觉生成，不能据此认定其具有 EEG 或 BCI 效果；相关 EEG 工作尚未检索确认。