跳到正文
arXiv · 架构与算子· Rajdeep Pandhare; Delzaan Bharucha·· 3 天前精选AI 评分73

ScoutRoute:利用语言模型内部信号实现高效混合专家路由

ScoutRoute: Efficient Mixture-of-Experts Routing Using Internal Language Model Signals

AI 导读

基于摘要分析。ScoutRoute 研究由独立训练的异构 LLM 构成的混合专家(MoE)系统中的专家选择问题,提出一种无需修改底层语言模型的轻量级后置路由框架,利用低成本 scout 模型单次前向传播产生的内部信号预测不同专家的能力。 核心机制包括两类信号:用隐藏状态表征训练轻量级 logistic probes,以估计跨模型的任务胜任能力;将 logits 衍生的置信度指标纳入领域感知路由策略。其区别于联合训练门控网络、基于提示的预测器或依赖多个模型推理的路由方式,但探针的监督标签、隐藏状态提取位置、领域识别方式及信号融合规则尚未验证。 作者报告,在五个开放权重语言模型和四个基准数据集上进行了评估,任务覆盖数学推理、代码生成、常识推理和多学科知识。在该评估范围内,作者报告 ScoutRoute 优于单独使用各类路由信号,且能力探针的校准优于常规置信度指标。摘要未提供数据集名称、具体指标、提升幅度或数据划分;“仅需一次 scout 模型推理”描述的是路由信号获取开销,不能据此认定完整任务只需一次模型推理。 复现时需核对专家与 scout 模型配置、探针训练数据及划分、路由对照、校准指标,以及包含最终专家调用在内的端到端延迟与成本。实验协议、消融及统计信息尚未验证。论文主要对象是语言模型路由,摘要未提供 EEG/BCI 验证,也不足以建立明确的神经信号迁移路径;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是:单次低成本 scout 模型推理得到的内部表征,能否可靠预测异构 LLM 的专家能力并改善路由校准;摘要尚不足以确认总体推理成本与收益。

来源:arXiv · 架构与算子 · arxiv.org