CODI：通过自蒸馏将思维链压缩到连续空间

基于摘要分析。本文研究 LLM 能否在潜在连续空间中进行推理，以减少自然语言 Chain-of-Thought（CoT，思维链）的表达开销，同时保持显式 CoT 的任务性能。作者提出 CODI（Continuous Chain-of-Thought via Self-Distillation），通过联合训练显式与隐式 CoT 任务，将自然语言推理能力蒸馏到连续空间。 核心机制是以 Explicit CoT 作为教师任务、Implicit CoT 作为学生任务，对齐某个指定 token 的隐藏状态。与试图完全绕过语言的既有隐式 CoT 方法相比，CODI 利用显式推理提供训练信号；但摘要未说明指定 token 的位置、对齐损失的具体形式、连续推理过程及训练与推理阶段的计算配置，均尚未验证。 作者报告，在 GPT-2 规模、GSM8k 评估中，CODI 达到与显式 CoT 相当的性能，实现 3.1 倍压缩，并在 Accuracy 上较此前最佳方法提升 28.2%。摘要未明确该提升是相对百分比还是百分点，也未给出具体基线、绝对 Accuracy、数据划分及压缩量的定义，因此不能将压缩率直接解释为运行速度提升。作者还报告了稳健性、向复杂数据集的泛化及可解释性，但对应数据集、指标和证据尚未验证；“首个达到显式 CoT 性能的隐式方法”属于作者在所述评估条件下的主张。 本文主要对象是语言模型推理，不是 EEG 或 BCI 解码。其机制依赖显式 CoT 教师信号及可对齐的隐藏表示，而摘要未提供神经信号任务中相应监督结构或迁移证据，不据此提出 BCI 有效性结论。复现前需核对教师与学生任务的输入输出、推理预算、压缩计量方式、对照基线以及实验协议、消融和统计信息。已有 EEG 相关工作尚未检索确认。