LoLa:通过隐状态反馈实现循环潜在推理
LoLa: Looped Latent Reasoning via Hidden State Feedback
基于摘要分析。LoLa 研究大语言模型推理中显式 chain-of-thought(CoT)轨迹冗长、推理开销较高的问题,提出在冻结基座 LLM 的同时,以轻量级潜在推理器进行迭代更新,再用潜在思维 token 引导答案生成。其主要研究对象是语言模型推理,而非 EEG 或 BCI。 核心机制是让推理器维护一个潜在状态,并利用基座 LLM 的隐状态反馈反复更新;最终状态被投影为潜在思维 token,作为答案生成的条件。训练先采用监督微调(SFT),再采用 Group Relative Policy Optimization(GRPO)。相较于摘要所述的单次前向潜在表示方法,以及需要在大规模预训练阶段引入循环的方法,LoLa 将可训练推理器与冻结基座分离。作者称,为特定基座训练后,可按需启用该推理模式,无须修改基座,且仍保留显式 CoT。 作者在两个基座 LLM、五个推理 benchmark 上评估。作者报告,以 DeepSeek-R1-Distill-Qwen-1.5B 为基座时,LoLa 优于所比较的高效推理方法,但摘要未列出具体对照及分数。以 Qwen3-4B 为基座时,相较其 non-thinking 模式,作者报告 pass@1 从 54.07% 提升至 58.64%,pass@4 从 65.78% 提升至 72.36%,同时降低推理延迟。摘要未明确这些数值的 benchmark 汇总口径、采样配置和延迟测量条件,因此不能据此量化通用加速收益。 复现需核对反馈隐状态的提取位置、循环次数、潜在 token 构造、SFT 数据、GRPO 奖励与采样配置,以及延迟是否计入全部循环计算。摘要提供了代码地址,但代码内容与可运行性尚未验证;实验协议、消融及统计信息尚未验证。其机制依赖基座 LLM 的隐状态与答案生成接口,不能直接视为 EEG 表征精炼方案;已有 EEG 相关工作尚未检索确认,BCI 适用性仍待评估。
值得核对 LoLa 在冻结基座 LLM 的条件下如何利用隐状态反馈实现迭代推理,以及准确性收益能否在计入全部循环开销后仍转化为推理延迟优势。
来源:OpenReview · State space models · openreview.net