基于混合专家的视觉自回归建模多尺度表征对齐

基于摘要分析。本文研究图像生成中的 Visual AutoRegressive modeling（VAR），针对粗到细生成过程中不同尺度的表征优化冲突，以及早期语义误差向后续尺度传播的问题，提出尺度感知、按 token 路由的 Mixture of Experts（MoE）架构，并引入外部自监督特征增强早期尺度的语义建模。 核心机制是根据尺度自适应选择专家，使侧重全局语义的低尺度与侧重细节的高尺度能够进行更解耦的表征学习。作者还设计了适配 VAR 的残差特征聚合方案，而非直接采用朴素特征对齐。摘要未说明专家数量、路由与负载均衡机制、外部特征来源、对齐损失及残差聚合的具体形式，这些实现条件尚未验证。 作者报告，在 ImageNet 256×256 图像生成评估中，相较稠密基线，该方法仅使用默认训练轮数的一半和更小的参数预算，即取得更优 FID，训练成本仅小幅增加；增加训练轮数后，性能差距进一步扩大。摘要未给出具体 FID、参数量、计算成本口径或默认轮数，因而尚不能量化收益，也不能把训练轮数减少直接等同于总算力减半。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 多尺度建模也存在全局状态与局部瞬态特征之间的优化冲突，尺度感知路由可能具有借鉴价值；但原方法依赖图像的粗到细 token 层级及外部自监督语义特征，迁移时需重定义 EEG 的时间或频率尺度、路由输入与对齐目标。低信噪比、通道差异及小数据可能造成路由不稳定或专家训练不足。一个可检验的小实验是在固定 EEG 任务与跨被试划分下，以匹配训练预算比较共享多尺度模型和尺度路由模型，再单独检验特征对齐的增益。此为迁移假设，不是本文已验证的 BCI 结果；已有 EEG 相关工作尚未检索确认。