跳到正文
arXiv · 架构与算子· Ruixiao Dong; Jianmin Bao; Bozhi Luan; Zijie Meng; Xin Tao; Pengfei Wan; Kun Gai; Li Li; Houqiang Li·· 16 小时前精选AI 评分76

PixelMoE:使用 LLM 风格混合专家扩展像素空间扩散模型

PixelMoE: Scaling Pixel-Space Diffusion with LLM-Style Mixture-of-Experts

AI 导读

PixelMoE 研究像素空间扩散模型中容量与活跃计算量紧密耦合的问题,通过标准 LLM-style Mixture-of-Experts(MoE)实现稀疏容量扩展,并引入沿去噪轨迹改变空间分辨率的 Pixel-Space Hierarchical Flow Matching。基于摘要分析,未取得论文全文;主要研究对象是图像生成,而非 EEG 解码或 BCI。 机制上,PixelMoE 采用标准 Token-Choice(TC)路由和细粒度路由专家,实现输入自适应的稀疏计算;共享专家用于学习共同表征,并使用基于偏置的负载均衡策略。作者强调,该框架不依赖扩散专用路由机制或辅助路由目标。层次化 Flow Matching 则沿去噪过程调整空间分辨率,使生成从全局结构形成推进到细节细化;具体分辨率调度与训练实现尚未验证。 作者报告,在活跃参数量相近的比较条件下,PixelMoE 在多个模型规模上优于对应的稠密模型。在 class-conditional ImageNet-1K 图像生成中,作者报告 256×256 分辨率下 FID 为 1.47,512×512 下为 1.53,且未使用表征对齐或感知损失。摘要未提供各对照模型的具体配置、采样设置和计算成本,不能据此判断全部比较是否在相同资源预算下进行。 复现时需核对稀疏 MoE 与层次化 Flow Matching 各自的贡献、专家使用情况,以及活跃参数量与实际训练和推理成本的关系;实验协议、消融及统计信息尚未验证。摘要表示代码和模型将于近期发布,当前材料不能确认已开放。其向 EEG/BCI 的迁移价值尚待评估,不能将图像生成指标直接解释为神经信号建模收益;相关 EEG 工作尚未检索确认。

阅读价值

值得核对标准 LLM-style MoE 在像素空间扩散中的稀疏扩容效果,以及层次化 Flow Matching 的独立贡献;摘要提供了 ImageNet-1K 生成结果,但不构成 EEG 或 BCI 有效性的证据。

来源:arXiv · 架构与算子 · arxiv.org