跳到正文
OpenReview · State space models· Zhenyi Shen; Hanqi Yan; Linhai Zhang; Zhanghao Hu; Yali Du; Yulan He·· 2025-12-31精选AI 评分77

CODI:通过自蒸馏将思维链压缩到连续空间

CODI: Compressing Chain-of-Thought into Continuous Space via Self-Distillation

AI 导读

基于摘要分析。本文研究 LLM 能否在潜在连续空间中进行推理,以减少自然语言 Chain-of-Thought(CoT)的开销,同时缩小隐式 CoT 与显式 CoT 的性能差距。作者提出 CODI(Continuous Chain-of-Thought via Self-Distillation),通过联合训练显式 CoT 教师任务与隐式 CoT 学生任务,将自然语言推理能力蒸馏到连续表示中。 核心机制是对齐某个指定 token 的隐状态,以此连接教师与学生的推理表示。相较于直接绕过语言的既有隐式 CoT 方法,CODI 利用显式推理作为训练信号。摘要未提供该 token 的选择、对齐损失形式、连续推理步骤的构造或完整推理流程,这些实现细节尚未验证。 作者报告,在 GPT-2 规模、GSM8k 任务上,CODI 达到与显式 CoT 相当的性能,实现 3.1 倍压缩,并较此前最优隐式 CoT 方法取得 28.2% 的准确率提升。摘要未明确压缩率的计量对象,也未说明准确率提升是相对百分比还是百分点,不能据此换算或推导绝对 Accuracy。作者声称这是首次在上述条件下实现隐式与显式 CoT 性能匹配;具体基线、数据划分、实验协议、消融及统计信息尚未验证。 作者还报告鲁棒性、向复杂数据集的泛化能力及可解释性,但摘要未给出相关数据集、指标或分析方法,因此这些结论仍需正文核对。材料提供了代码仓库,训练配置、资源需求与复现完整性尚未验证。 本文的主要研究对象是语言模型推理,而非神经信号解码。其机制依赖显式 CoT 教师信号及可对齐的隐状态,摘要未提供与 EEG/BCI 瓶颈的具体对应关系,不据此提出迁移效果或复现实验建议;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过指定 token 隐状态对齐,将显式 CoT 自蒸馏到连续空间的机制,以及在 GPT-2 规模、GSM8k 任务上的性能与压缩权衡;其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net