LoopREG：表征监督使扩散 Transformer 能够在测试时增加循环深度

基于摘要分析。该研究针对图像扩散模型复用 Transformer 块时，循环深度超过训练深度可能导致生成质量下降的问题，提出表征监督的循环扩散 Transformer——LoopREG。核心贡献是借助预训练视觉编码器的表征监督，使共享块在推理时增加循环次数，而无需改变模型权重。 机制上，LoopREG 在接受表征监督的状态位置反复应用共享块，训练时在最后一次循环访问后施加表征对齐，推理时将同一学习到的算子扩展到更多访问次数。摘要未给出对齐损失的具体形式、视觉编码器名称或共享块的完整结构，不能据此推断实现细节。增加循环深度意味着增加推理计算，并不等同于无成本提升。 作者报告，在 ImageNet 256 × 256 图像生成、400K 训练步条件下，SiT-B/2 的 FID 从本地 REG 基线的 15.08 降至 4.91，降幅为 67.41%。另一个训练时采用两次访问的检查点，在权重不变、推理额外增加一次访问的条件下，FID 从 14.71 降至 5.34；摘要未明确该检查点的训练步数及完整采样协议，不宜与前一组数字合并比较。作者报告收益也出现在 SiT-L/2 和 SiT-XL/2，但未提供对应数值。 作者报告，受控干预显示有效循环的位置随表征监督位置变化，而 REPA 对齐带来的深度外推收益较小。这支持进一步核对监督位置与循环算子之间的关系，但循环次数上限、额外计算代价、采样设置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可检验的迁移假设是，将这一机制用于 EEG 生成模型，而非直接视为 BCI 解码方法。可复用共享块循环与末次访问对齐，需将视觉编码器替换为适合 EEG 的表征教师，并适配时序或时频数据结构；教师质量、训练规模和跨通道表征一致性是关键依赖。低信噪比、被试差异及小数据可能使循环放大伪迹或教师偏差。小规模实验可固定 EEG 数据划分与模型权重，比较训练深度和额外一次循环下的信号统计保真度，并设置无表征监督对照；若额外循环无收益或损害保真度，则该迁移假设不获支持。已有 EEG 相关工作尚未检索确认。