扩散语言模型的跨任务成本与速度选答

该研究分析扩散语言模型为何在生成相同 token 长度的输出时仍有不同计算成本，并探索解码速度能否辅助答案选择。基于摘要分析，研究对象是文本生成模型，而非 EEG 或 BCI 系统。 扩散语言模型可在一次前向传播中生成多个 token，并在生成过程中决定投入多少次前向传播。因此，输出 token 数不足以单独刻画推理成本。作者分析了两个扩散模型在 10 项任务上的表现，报告每个 token 所需的前向传播次数高度依赖任务：复制或轻度编辑输入的成本较低，开放式写作成本较高。在 DiffusionGemma 中，故事写作每个 token 所需的前向传播次数超过语法纠错的三倍。 作者报告，输出相对于输入的新颖程度，以及词语在对应任务中的稀有程度，可以解释上述成本差异的较大部分。这一关系也出现在含推理过程的单次回答内部：最终答案重复推理轨迹内容时成本较低，引入新内容时成本较高。多语言分析中，分词后 token 数较多的语言，每个 token 还需要更多前向传播，从而叠加两类成本。 在同一数学题目的候选回答比较中，作者报告错误答案比正确答案需要更多的每 token 前向传播次数；按解码速度对候选答案加权，相较多数投票最多提升 4.2 个百分点，且不增加额外成本。摘要未明确该提升对应的指标名称、评估集与候选采样配置，不能据此视为普遍收益。 复现时需核对模型与解码设置、任务和语言构成、新颖性与词语稀有度的定义，以及前向传播次数与实际延迟的对应关系；速度加权的具体规则、成本口径、实验协议、消融及统计信息尚未验证。该研究尚不能直接支持 EEG/BCI 中的效率或可靠性结论，相关工作尚未检索确认。