跳到正文
OpenReview · State space models·· 3 天前精选AI 评分77

面向 LLM 的自适应潜在空间推理

Adaptive Latent-Space Reasoning for LLMs

AI 导读

基于摘要分析。本文研究语言模型能否在生成 token 前直接进行有效的潜在空间计算,以降低对显式推理文本的依赖。作者提出 Adaptive Latent-Space Reasoning(ALSR):冻结预训练骨干,为每个输入维护并迭代优化潜在状态,在不输出 token 的过程中计算,并仅通过结果奖励训练自适应停止策略,无需监督推理轨迹或从头预训练。 核心机制是将部分推理计算从显式 token 生成转移到潜在状态更新,并由停止策略决定何时结束这一过程。摘要未说明潜在状态如何接入骨干、更新算子、奖励与优化目标的具体形式,以及训练哪些附加参数,这些实现细节尚未验证。 作者报告,在数学基准上,ALSR 相比未修改的预训练骨干改善了准确率与解码 token 数之间的权衡,并与训练完整骨干的 GRPO 保持竞争力。在 Qwen-3.5-4B 上,采用仅数学任务的训练分布后,作者报告其在五个科学、编程基准及 ARC-AGI-1 的两个公开划分上,平均 Pass@1 比未修改骨干高 14.6 个百分点,比 GRPO 高 7.1 个百分点。各基准名称、划分细节与均值汇总方式尚未验证。在已具备显式推理行为的 DeepSeek-R1-Distill-Qwen-1.5B 上,作者报告主要收益是减少解码长度,摘要未给出具体降幅。 需要区分减少解码 token 与降低总推理成本:潜在状态迭代同样需要计算,摘要不足以确认端到端时延、显存或总计算量是否下降。实验协议、计算预算匹配、消融及统计信息尚未验证。本文主要研究对象是 LLM 推理,并非 EEG 解码或 BCI;已有 EEG 相关工作尚未检索确认,当前材料不足以建立具体迁移路径。

阅读价值

值得核对的是,ALSR 能否在冻结骨干、仅用结果奖励的条件下改善推理准确率与解码 token 数的权衡;作者报告了跨任务收益,但潜在计算的实际时延与总成本尚未验证。

来源:OpenReview · State space models · openreview.net