重新思考自回归图像生成中的表征对齐

基于摘要分析。本文研究自回归（AR）图像生成中表征对齐的因果位置问题，提出 Causally Accessible Representation Alignment（CARA）：将可学习前缀 token 的最终层表征与全局视觉教师目标对齐，使其在后续解码期间持续提供语义上下文。 核心问题是信息丰富程度与预测影响范围之间的权衡：较晚的状态能够看到更多图像内容，却只能影响更少的后续预测，因此表征保真度提高不必然改善生成。作者通过理论与实证分析指出，在图像生成开始前实施对齐，可促进模型学习从条件中可预测的视觉信息；摘要中的监督位置与深度比较支持对最终层的专用前缀状态进行对齐。该机制保留原有生成流程，并强调表征不仅应编码信息，还应能被未来预测实际利用。 作者报告，在所评估的模型规模下，CARA 改善了类别条件图像生成及文本到图像的提示遵循表现；受控比较支持结合深层对齐与专用前缀状态，缓存干预则支持该状态在首个图像 token 之后仍具有预测效用。摘要未提供具体数据集、模型规模、指标、提升幅度或基线细节，实验协议、消融及统计信息尚未验证；教师编码器、对齐损失和训练成本也需查阅全文。 平台推测（待验证）：若 EEG 条件生成任务采用自回归解码，且存在与输出语义相匹配的教师表征，可检验“生成前构造持续可访问的条件状态”这一机制。需要改造 EEG 条件编码与教师目标，不能直接沿用图像语义监督；低信噪比、跨被试差异及小数据可能使前缀学到不稳定的条件信息。一个可证伪的小实验是在固定数据划分、解码器与训练预算下，比较无对齐、专用前缀对齐及后部状态对齐，并通过前缀缓存干预检验其是否持续影响后续预测。原文未验证 EEG/BCI 效果，已有 EEG 相关工作尚未检索确认。