跳到正文
arXiv · 学习目标与优化· Fengyuan Liu; Yue Wang; Hangxi Guo; Fengyuan Liu; Chenxu Wu; Yanguang Liu; Mengnan Du·· 1 天前精选AI 评分74

从单一提示到功能集合:演化功能集合 EFRE 支持 LLM 持续学习

From a Prompt to Repertoires: Evolving Functional REpertoires Enable LLM Continual Learning

AI 导读

基于摘要分析。本文研究 LLM 如何在连续获取新技能和知识时保留已有能力,提出 Evolving Functional REpertoires(EFRE):以随任务演化的功能集合替代单一提示,通过细化已有功能或产生新功能处理连续任务中的更新冲突。 核心机制:作者将提示优化作为避免昂贵参数更新的适应途径,但作者报告,在顺序任务适应中,单一提示优化仍会出现灾难性遗忘,累积的规则也会过拟合局部任务分布。EFRE 对兼容更新细化已有功能,对冲突更新产生新功能。摘要未说明功能的具体表示、兼容性判定、推理时的选择方式及优化流程,这些机制尚未验证。 结果:作者报告,在一个三任务持续学习序列上,EFRE 的最终平均表现比 GRPO 高 7.50 个百分点;在适应 Bio 任务后,其 FinQA 表现下降 1.56 个百分点,而基础提示优化方法下降 25.10 个百分点。摘要未给出具体指标、完整任务顺序、数据划分及预算,不能将这些差值解释为 Accuracy,也不能据此推断跨协议优势。作者还报告,将 EFRE 实例化为最小智能体系统后,在不同骨干模型上观察到一致改进,但模型名称与逐项结果尚未验证。 复现重点是核对冲突判定与功能增长策略、任务间能力保持的评估方式,以及提示优化、EFRE 和 GRPO 的资源与监督条件。实验协议、消融及统计信息尚未验证。本文证据限于 LLM 持续学习,不构成 EEG/BCI 解码效果的证据;功能集合如何对应 EEG 任务、通道或被试差异尚不明确,暂不据此提出具体迁移方案。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 EFRE 如何判定更新兼容性并组织功能集合,以及其相对单一提示优化和 GRPO 的持续学习收益能否在一致评估与资源预算下复现。

来源:arXiv · 学习目标与优化 · arxiv.org