重新思考原生像素空间扩散 Transformer 的设计空间

基于摘要分析。本文研究直接在像素空间生成图像的扩散 Transformer，重新考察干净图像预测（x₀）与速度预测（v）的选择，提出自适应参数化 Mꜰʟᴏᴡ；另以 ConvRefiner 处理生成图像持续存在的高频不足问题。 像素空间扩散避免了有损潜在表示瓶颈及单独训练的自编码器。摘要以 JiT 采用 x₀ 预测的做法为出发点，提出让 Mꜰʟᴏᴡ 沿数据的不同主方向学习在 x₀ 与 v 预测之间插值，并随扩散模型端到端训练。作者报告，较优参数化随数据表示和模型容量系统性变化，增大模型容量会使偏好从 x₀ 预测向 v 预测移动；摘要未给出容量范围、主方向的具体学习方式及插值约束。 作者在 ImageNet、UCF-101 视频及大规模文本到图像生成设置中评估 Mꜰʟᴏᴡ，报告生成表现具有竞争力或有所提升，但摘要未提供具体指标数值、数据划分和完整对照条件，不能据此判断各设置下的提升幅度。 作者还报告，不同参数化的原生像素扩散 Transformer 相对真实图像均存在持续的高频不足。为此，ConvRefiner 在冻结扩散主干后，以对抗损失进行后训练；作者报告，少量额外训练即可恢复生成图像的高频统计，同时保持 FID。高频统计的定义、额外训练成本及其他质量指标尚未验证。 实验协议、消融及统计信息尚未验证。本文主要对象是视觉生成，并未提供 EEG/BCI 实验；相关迁移有效性及已有 EEG 相关工作尚未检索确认。