解码 Register Tokens 可保留全局场景细节

基于摘要分析。本文研究预训练 vision transformers 的非空间 register tokens 是否能在完整空间 patch 表征之外，为图像解码提供额外的全局场景信息。作者在表征自编码器（RAEs）中冻结带 register tokens 的编码器，让解码器通过联合自注意力同时处理四个 register tokens 与全部 patch tokens，而非仅依赖 patches 重建图像。 机制与验证：研究关注照明、模糊和风格等全局外观属性，使用外观探针、配对重建误差分析及固定解码器下的 register 特征替换，考察这些属性能否从 registers 中读取，以及改变其取值如何影响重建像素。生成阶段另训练 multi-head attention pooling（MHAP）预测器，从采样得到的 patches 预测 register 特征，保持预训练 diffusion model 及其生成样本不变。因此，其主要问题是解码端如何利用表征，而非重新训练生成模型。 作者报告，在 ImageNet-1K 上，使用 DINOv2 与 DINOv3 的 ViT-B 解码器平均重建 FID 分别为 0.472 和 0.442，较各自仅使用 patches 的基线分别降低 9.5% 和 5.2%；对应 PSNR 分别为 19.73 和 20.54 dB。生成实验中，DINOv2 模型在相同采样 patches 条件下的平均 FID 为 1.641，较仅使用 patches 的基线降低 9.8%。这些结果分别对应重建与生成协议，不能混作同一指标比较。 尚待核对：摘要未提供具体数据划分、均值汇总方式、训练配置及各类外观属性的独立结果，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，非空间汇总 tokens 可能保存局部 tokens 未被解码器充分利用的全局状态，但图像外观收益不等于 EEG/BCI 有效性。若 EEG 编码器已有此类 tokens，可在固定编码器、相同时间或通道 tokens 下，对照是否加入汇总 tokens，并通过替换测试其保存的是任务信息还是被试、噪声等混杂因素。需要改造 EEG 分词与重建目标；低信噪比、通道变化和小数据可能使全局 tokens 主要承载伪迹。已有 EEG 相关工作尚未检索确认。