课程学习使 LLMs 学会长程隐式推理,但存在限度
Curriculum Learning Teaches LLMs Long-Horizon Implicit Reasoning, Up To A Limit
基于摘要分析。本文研究课程学习能否扩展 LLMs 在单次前向传播中的隐式推理深度,方法是在微调过程中逐步增加训练样例的词汇量与 lookahead,即为确定正确下一步而需要向前搜索的步数。研究对象是语言模型的推理能力,而非 EEG 解码或 BCI。 作者将隐式推理与 chain-of-thought(CoT)区分:前者不把中间推理步骤显式输出为 token,但可在生成 CoT 时帮助模型预判下一步、选择证明策略。本文训练课程同时调整词汇量和前瞻深度;其各自作用及交互关系需结合全文消融核对,不能仅凭摘要确定收益来源。 作者报告,在计算量匹配的课程训练与无课程训练对照下,Qwen3-0.6B 在前瞻深度最高为 256 的问题上,Accuracy 分别为 98% 和 45%。具体问题构造、训练与测试划分以及该数值的汇总方式尚未验证。作者还报告,合成数据上获得的能力可迁移至自然语言推理:课程训练模型在 11 个自然语言推理基准上优于等计算量的无课程训练模型;摘要未列出基准名称及逐项结果。 随着微调继续,作者报告进展呈饱和指数趋势;更大模型具有更高的拟合上限,预训练后微调的进展远快于从头训练,而过大的课程步长会使进展停滞。作者据此提出模型可能存在可学习的最大内在前瞻深度,但有限训练范围内的拟合不能直接视为能力上限的证明。实验协议、消融、统计信息及复现条件尚未验证。该结果尚不构成 EEG/BCI 有效性的证据,已有 EEG 相关工作尚未检索确认。
值得核对其等计算量课程学习对照与隐式推理深度的饱和拟合:作者报告了显著训练收益,但拟合上限是否代表模型内在能力边界仍需全文证据。
来源:arXiv · 学习目标与优化 · arxiv.org