跳到正文
只看学习与优化#LLM
10月8日周四
  1. arXiv · 学习目标与优化74

    从单一提示到功能集合：演化功能集合 EFRE 支持 LLM 持续学习

    基于摘要分析。本文研究 LLM 如何在连续获取新技能和知识时保留已有能力，提出 Evolving Functional REpertoires（EFRE）：以随任务演化的功能集合替代单一提示，通过细化已有功能或产生新功能处理连续任务中的更新冲突。 核心机制：作者将提示优化作为避免昂贵参数更新的适应途径，但作者报告，在顺序任务适应中，单一提示优化仍会出现灾难性遗忘，累积的规则也会过拟合局部任务分布。EFRE 对兼容更新细化已有功能，对冲突更新产生新功能。摘要未说明功能的具体表示、兼容性判定、推理时的选择方式及优化流程，这些机制尚未验证。 结果：作者报告，在一个三任务持续学习序列上，EFRE 的最终平均表现比 GRPO 高 7.50 个百分点；在适应 Bio 任务后，其 FinQA 表现下降 1.56 个百分点，而基础提示优化方法下降 25.10 个百分点。摘要未给出具体指标、完整任务顺序、数据划分及预算，不能将这些差值解释为 Accuracy，也不能据此推断跨协议优势。作者还报告，将 EFRE 实例化为最小智能体系统后，在不同骨干模型上观察到一致改进，但模型名称与逐项结果尚未验证。 复现重点是核对冲突判定与功能增长策略、任务间能力保持的评估方式，以及提示优化、EFRE 和 GRPO 的资源与监督条件。实验协议、消融及统计信息尚未验证。本文证据限于 LLM 持续学习，不构成 EEG/BCI 解码效果的证据；功能集合如何对应 EEG 任务、通道或被试差异尚不明确，暂不据此提出具体迁移方案。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 EFRE 如何判定更新兼容性并组织功能集合，以及其相对单一提示优化和 GRPO 的持续学习收益能否在一致评估与资源预算下复现。

  2. arXiv · 泛化与分布偏移73

    RL-ARC：通过推理引导的不确定性校准大型推理模型

    基于摘要分析。研究关注可验证奖励强化学习（RLVR）提升语言模型推理能力时可能伴随的校准退化与过度自信，提出联合利用推理置信度和答案置信度的校准感知训练框架 RL-ARC。 核心机制是将推理置信度作为校准答案置信度的辅助信号：对正确回答施加推理引导的正则化，对错误回答施加过度自信惩罚。摘要未说明两类置信度如何计算、正则项与惩罚项的具体形式，以及它们如何与原有训练目标组合，这些实现细节尚未验证。 作者报告，在分布内（ID）与分布外（OOD）设置下，RL-ARC 改善了校准，使模型能够根据问题自适应估计置信度，同时未显著牺牲推理性能。摘要将已有校准感知训练方法描述为在分布偏移下仍可能过度自信，并存在推理性能损失；但未提供基线名称、任务、数据集、模型规模、校准指标或具体数值，因此无法判断收益大小及适用边界。实验协议、消融及统计信息尚未验证。 复现时需核对推理置信度是否提供独立于答案置信度的信息、正确与错误样本的判定方式、OOD 构造及性能与校准的联合评估。该方法直接面向语言推理模型，不能据此认定对 EEG/BCI 有效；摘要不足以确定其置信度机制如何对应 EEG 解码，迁移价值待评估，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 RL-ARC 如何利用推理置信度约束答案置信度，以及其在分布外条件下改善校准与保持推理性能的权衡；具体收益和实验协议尚未验证。

  3. arXiv · 学习目标与优化72

    KDFP：大语言模型知识蒸馏的第一性原理方法

    基于摘要分析。该研究关注大语言模型的通用知识蒸馏，而非主要蒸馏指令遵循、chain-of-thought 推理或工具使用等后训练能力。作者结合既有研究经验与新探索，提出白盒知识蒸馏方法 KDFP，目标是提升小型学生模型的能力，为高效、适合边缘设备部署的系统提供方法基础。 技术上，摘要将 KDFP 描述为面向现代 LLM 的通用知识蒸馏方法，并指出其通过 ephemeral parameter reduction 提高训练效率。白盒设定意味着方法依赖教师模型内部信息的可访问性，但具体使用哪些表征、如何构造蒸馏目标、如何减少参数及其作用阶段，均尚未验证；不能据此确定损失形式、训练流程或推理开销。 作者报告，KDFP 在 9 个基准上相较既有方法提升 1.6%–4.9%，并通过 ephemeral parameter reduction 将训练效率最多提升 99.1%。摘要未给出基准名称、评估指标、教师与学生规模、对照方法和训练预算，因此上述百分比不能解释为准确率百分点，也不能确定训练效率对应时间、算力或其他资源指标。实验协议、消融及统计信息尚未验证；边缘部署与隐私是研究动机，不能视为已验证的部署收益或隐私保证。 平台推测（待验证）：通用知识蒸馏可能为 EEG/BCI 大模型向轻量学生模型压缩提供参考，但目前摘要不足以建立具体机制对应。需先核对其对教师内部表征、数据规模与模型结构的依赖，再评估与 EEG 低信噪比、跨被试差异和小数据条件的兼容性；不能将 LLM 上的结果直接外推为 EEG/BCI 效果，相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 KDFP 如何通过 ephemeral parameter reduction 兼顾通用知识蒸馏效果与训练效率，但摘要未披露具体机制及评估协议，其对 EEG/BCI 模型压缩的适用性尚未验证。

  4. arXiv · 泛化与分布偏移78

    LLM 的摊销式离策略评估

    基于摘要分析。研究针对 LLM 候选模型的离线部署评估：既有模型产生的日志与候选模型响应之间存在策略偏移，业务要求变化又会带来奖励偏移。作者提出 PFN-OPE，以 prior-data fitted network 在上下文老虎机任务分布上预训练，将离策略评估（OPE）的拟合成本摊销到多个任务。 核心机制是利用 LLM 响应池及多个奖励函数构造同时包含两类偏移的预训练任务。测试时，模型接收日志数据集以及每个提示的一条采样目标响应，通过单次前向推理输出价值估计，无需逐任务重新拟合。其方法重点不是重新定义奖励，而是学习跨任务复用的评估映射；预训练任务分布对部署条件的覆盖程度，是理解泛化能力时需要核对的关键。 作者报告：在 HelpSteer2 和 UltraFeedback 上，使用 Qwen、Llama 与 Gemma 策略，在奖励发生偏移的设置中，PFN-OPE 在所有已测试配置下相对最佳基线取得了原文表述为“2.0 至 9.3 倍更低”的误差。摘要未明确误差指标、具体模型版本、训练与测试划分，以及策略偏移和奖励偏移的构造方式，因此不能将该倍数换算为 Accuracy 提升或直接外推到未测试配置。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统记录了上下文、决策动作及反馈奖励，这种摊销式 OPE 机制可能用于评估解码策略更新或反馈目标变化，而非直接作为 EEG 特征提取方法。可复用部分是跨任务评估器，需改造任务生成、动作表示和奖励定义；EEG 低信噪比、跨被试变化、小规模日志及行为策略覆盖不足均可能使估计失效。一个可证伪的小实验是在具有已知策略价值的模拟上下文老虎机任务中引入被试差异和奖励变化，比较预训练评估器与逐任务 OPE 基线的价值估计误差。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 PFN-OPE 将持续部署中的策略偏移与奖励偏移共同纳入摊销式离策略评估，并以单次前向推理替代逐任务拟合；其误差优势仍需结合全文中的划分、误差定义及基线协议核对。

10月6日周二
  1. arXiv · EEG 与神经表征80

    CogAdapt：认知信息引导的代码 LLM 稀疏适应

    基于摘要分析。研究针对代码 LLM 微调成本较高的问题，提出 CogAdapt：利用人类阅读代码时的 EEG 与注意数据，学习程序级和 token 级认知先验，并据此选择性更新模型，以兼顾代码生成性能与适应参数规模。 核心机制是将可迁移的认知先验与冻结模型对各编码任务的响应相结合，决定适应规模及需要更新的 transformer blocks；微调期间仅更新选定模块，推理时不需要新增人类记录。与摘要所述通常更新较大部分模型的人类认知对齐方法相比，其重点不是仅用认知信号指导学习内容，而是进一步指导更新位置和规模。先验的具体学习目标、EEG 预处理、注意数据获取方式及模块选择规则尚未验证。 作者报告，在 Qwen 和 GLM 上，人类阅读行为与 Mixture-of-Experts（MoE）计算表现出一致对应关系。作者报告，CogAdapt 在 LiveCodeBench 和 BigCodeBench 的所比较设置中取得最佳 pass@1；其中在 LiveCodeBench 上，相较匹配的常规微调，提升分别为 10.86 和 6.29 个百分点，同时可参与梯度更新的适应参数减少 86.21–87.21%。摘要未明确各数值对应的模型配置，也未提供绝对 pass@1、数据划分或统计不确定性；参数减少不能直接等同于训练时间、显存或总计算成本同比下降。 该工作将 EEG 作为代码模型适应的认知指导信息，而非直接研究 BCI 解码。关键核对事项包括认知先验跨程序、任务及被试的可迁移性，认知信号相对纯模型响应选择策略的增益，以及匹配微调的参数预算和训练预算。被试数量、记录协议、训练与评估划分、消融、统计信息及代码可用性尚未验证，不能据此推断其适用于其他 EEG 任务。

    阅读价值：值得核对其如何将 EEG 与人类注意数据转化为代码模型的稀疏适应先验，以及性能提升和可参与梯度更新的参数减少能否在匹配微调协议下复现；这并非 EEG 解码性能的验证。

10月3日周六
  1. arXiv · 架构与算子75

    ExpertMuon-Compass：用于混合专家训练的对齐引导步长

    基于摘要分析。该研究针对混合专家（MoE）语言模型中各专家接收的数据不同且随训练变化、共享学习率难以反映专家更新质量的问题，提出 ExpertMuon-Compass（Compass）：保留 Muon 的更新方向与动量缓冲，通过两个对齐因子调整每个专家的更新步长。 核心机制是将专家的 Muon 步乘以两个因子：family factor 比较该专家正交化更新与当前梯度的余弦相似度和同层其他专家的对应相似度；scalar radius 将更新与梯度对应行之间的对齐信息聚合为一个步长乘数。方法主要改变更新幅度，而非更新方向。作者还报告证明了两个因子的扰动界，但具体假设、界的形式及适用范围尚未验证。 作者报告，在 FineWeb-Edu 预训练中，对所有矩阵使用 Nesterov 动量的 Compass 表现不逊于或优于 Muon、NorMuon 及其他优化器；较长训练运行中的权重衰减与 NorMuon 匹配。将这些因子加入 NorMuon 后，作者报告损失相同或更低。摘要未提供模型规模、训练预算、具体损失数值与数据划分，不能据此量化收益。作者报告，当专家所见数据在训练过程中变化时效果最明显，例如多语言语料按语言分块到达的设置；同时专家负载保持均衡，路由器的 token 分配更为明确。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 模型采用 MoE，且不同专家因被试、会话或任务路由而接收非平稳数据，对齐引导步长可能对应专家间更新可靠性不一致的瓶颈。可复用步长缩放机制，但需适配专家矩阵及路由方式；该机制依赖可计算的专家梯度、正交化更新及同层专家比较，不能直接推广到没有专家结构的模型。低信噪比、小数据和稀疏路由可能使对齐估计不稳定，通道差异也可能改变专家分工。一个可检验的小实验是在固定 EEG MoE、Cross-subject 划分与训练预算下，对照 Muon 和 Compass，比较预先指定的任务指标、专家负载与对齐因子稳定性，并分别移除两个因子。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其基于更新—梯度对齐调整专家步长的机制，以及与 Muon、NorMuon 在权重衰减匹配条件下的比较；摘要报告的收益尚需结合完整训练协议与消融验证。