FastEEP：面向专家并行 MoE 推理服务的快速实例内弹性伸缩

基于摘要分析。该研究针对大规模 MoE 推理服务在动态 LLM 负载下的容量调整问题，提出 FastEEP（Fast Elastic Expert Parallel），通过复用已有运行时状态，实现既有服务实例内部专家并行（EP）组的快速扩缩容，而非销毁并重建整个实例。 核心机制是 Partial Reuse：将可复用的执行结构与当前 EP 配置所激活的资源分离，在 worker 执行、GPU 内存和通信三个层面保留重建成本较高的状态，同时协调资源回收与重新配置。其主要贡献属于推理服务系统与资源管理，而不是 MoE 模型结构或训练方法的改进。摘要未说明具体保留哪些状态、如何处理调整过程中的请求与通信一致性，这些实现细节尚未验证。 作者报告，在不同模型的评估中，相较现有基于 vLLM 的方案，FastEEP 的伸缩速度提升为 4.5–11.7 倍。该数字针对伸缩过程，不能直接解释为推理吞吐量或请求延迟获得同等改善。具体模型、硬件、EP 组规模、负载模式、扩容与缩容方向，以及计时边界均未在摘要中给出；实验协议、消融及统计信息尚未验证。 全文阅读时应重点核对状态复用的兼容边界、伸缩期间的服务中断或延迟变化，以及资源回收和重新配置的额外成本。摘要未提供代码或复现配置。该工作研究的是通用 MoE 服务基础设施，材料未建立其与 EEG/BCI 信号处理瓶颈的具体对应关系，因此不据此推断 BCI 效果，也不提出 EEG 迁移实验。