AdaSpark：通过在线学习进行树验证与 n-gram 填充的自适应 DSpark

基于摘要分析。AdaSpark 研究分块推测解码中验证树宽度的在线选择问题：更宽的树可能接受更多 token，却增加目标模型验证耗时。其贡献是在服务过程中同时学习验证耗时与候选接受概率，并将 drafter 候选和请求文本中的 n-gram 延续纳入统一调度，无需预先进行性能剖析、校准或宽度扫描。 机制上，AdaSpark 学习哪些验证宽度值得纳入选择，并按上下文拟合各宽度的验证耗时；利用目标模型的验证结果拟合候选接受概率，将 drafter 的置信度头作为输入之一，而非直接依据其置信度安排验证树。该模型也评估请求自身文本的 n-gram 延续，使两类候选按同一 best-first 顺序竞争验证行数。宽度选择以长期解码速率衡量时间成本。摘要未给出在线更新算法、模型形式或具体目标函数。 作者报告，在六个公开数据集的单轮与多轮对话、三个稠密目标模型及一个 mixture-of-experts 目标模型上，使用相同 drafter 时，AdaSpark 的解码速度为 llama.cpp DSpark 的 1.5–3.1 倍。在 imparo 引擎内，相对采用三 token 链的配置（摘要称其为 llama.cpp 默认设置），速度为 1.17–1.52 倍，作者将该收益归因于调度器。作者还报告，无需宽度扫描，在所评估的稠密目标模型与上下文区间中，其速度至多比最佳固定树宽度慢 0.3%；在 mixture-of-experts 目标上与最佳固定宽度持平，其余所比较的 4–16 行固定宽度配置慢 5–14%。这些结果仅适用于摘要所述评估范围，不能外推至任意硬件或负载。 复现需核对目标模型与 drafter、数据集与上下文划分、硬件及并发设置、计时边界、在线学习开销，以及最佳固定宽度的确定方式；实验协议、消融及统计信息尚未验证。平台推测（待验证）：该方法可能用于 BCI 系统中已有的自回归文本生成后端，但不直接解决 EEG 表征或神经信号解码问题，原领域加速不等于 BCI 端到端收益；已有 EEG 相关工作尚未检索确认。