DPA-MoE：面向 MoE 推理的运行时精度控制框架

基于摘要分析。本文研究 Mixture-of-Experts（MoE）模型在稀疏路由后仍以固定精度使用所选专家的问题，提出运行时精度控制框架 DPA-MoE，使同一份编码后的模型检查点无需重新训练或重新编码，即可在多个有效权重预算下运行。 核心机制是使用 SharedScale AnyBCQ 将专家前馈网络权重编码为可按前缀解码的数据块，离线测量各专家的权重重建残差，再于推理时结合实时路由门控分数分配数据块。其控制位置在路由之后：不是仅决定调用哪些专家，而是进一步调节已选专家使用的权重精度。具体分配算法、精度粒度及运行时实现细节尚未验证。 作者报告，在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上，相比相同权重预算下的均匀数据块分配，DPA-MoE 改善了 KL divergence 与下游任务 Accuracy，原型的稳态吞吐开销较小。摘要未提供任务、数据划分、预算范围、具体数值及硬件条件，实验协议、消融及统计信息尚未验证；不能据此量化质量收益或部署收益。 平台推测（待验证）：该机制可能适用于采用 MoE 的 EEG 模型部署，其对应问题是有限存储与带宽下的专家权重精度分配，而非直接改善神经信号解码。可复用的是权重分块编码与路由后预算控制，需重新核对 EEG 模型中门控分数、重建残差与任务性能的关系。低信噪比、跨被试分布变化及小数据条件下，路由分数未必能可靠反映专家对解码结果的重要性。若已有可运行的 EEG MoE，可在固定路由、数据划分及权重预算下，对比动态分配与均匀分配的任务指标、延迟和内存占用，检验收益是否成立；相关 EEG 工作尚未检索确认。