重振 image-GPT，使其成为强大的视觉表征学习器

基于摘要分析。本文研究视觉自回归预训练如何获得更强的图像表征，提出 D-iGPT：将 iGPT 的预测目标由原始像素改为语义 token，并在预测后续 token 之外加入对可见 token 的预测。 核心机制是同时调整预测目标的语义层级与预测范围。前者旨在让学习目标包含更高层视觉信息，后者补充仅预测后续 token 的自回归建模。作者指出，当语义 token 由 CLIP 等经判别式训练的模型编码时，这一流程尤其有效。摘要未提供 token 构建细节、具体损失形式、两类预测目标的权重或训练配置，尚不能分离各项改动与语义编码器的贡献。 作者报告，使用公开可用数据集训练、采用标准 ViT-H 的 D-iGPT，在 ImageNet-1K 上达到 90.0% top-1 Accuracy；摘要未明确训练数据构成、评估划分及评估流程，不能据此进行严格的同协议比较。作者还报告下游任务泛化表现较强，但未列出具体任务与指标。摘要提供了代码地址，代码完整性及复现条件尚未验证；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，以具有判别信息的目标表征替代低层信号重建，并结合后续与可见片段预测，可能有助于 EEG 表征学习。但原论文研究对象是图像，不是 EEG；迁移需要重新设计 EEG 片段与语义目标编码器，并核对其监督来源。视觉 CLIP 表征不能直接视作 EEG 语义目标，低信噪比、被试差异、通道变化及小数据可能使目标编码器学习到非任务因素。一个可证伪的小实验是在固定跨被试划分与骨干下，对比低层信号预测、语义目标预测及加入可见片段预测的方案，并保证目标编码器不接触测试被试数据。已有 EEG 相关工作尚未检索确认。