牢记于心:通过潜在空间知识增强实现隐式记忆
Keep It in Mind: Implicit Memory via Latent-Space Knowledge Augmentation
基于摘要分析。本文研究语言模型智能体如何保留并跨任务复用成功轨迹中的经验,提出 Knowledge-Augmenting Implicit Memory(KIM):将行为调整保存在独立于骨干模型的潜在空间记忆中,减少对源轨迹反复检索与解释的依赖,也避免将经验完全绑定于骨干参数更新。 机制上,KIM 基于固定的共享 adapter,学习有利于成功后续行为的局部调整,并在相应交互状态上联合拟合记忆场。该记忆场整合不同轨迹中的调整;执行新任务时,系统根据当前状态读取调整,通过低秩干预作用于冻结的骨干模型。工具返回的观测会刷新读取结果,以引导连续决策,而不必重放原始轨迹。记忆场的具体参数化、局部调整的学习目标及训练流程尚未验证。 作者报告:使用按与评估查询的相似度筛选出的 3.6k 条成功轨迹构建记忆场后,KIM 在七个计算与知识密集型推理基准上的平均 Accuracy 为 41.6%;对照 trajectory RAG 使用包含 54k 条轨迹的检索库,平均 Accuracy 为 30.8%。这一结果对应不同的记忆构建与检索设置,不能仅据轨迹数量推断效率优势。作者还报告,将 KIM 应用于面向多工具推理训练的 Tool-Star 后,平均 Accuracy 从 46.6% 提升至 50.7%;摘要未明确该项结果的具体评估集合与划分。 复现时需核对成功轨迹来源、相似度筛选与评估查询之间的关系、训练和评估划分、基线配置、记忆更新成本及推理开销;实验协议、消融及统计信息尚未验证。摘要提供了匿名代码地址,但代码内容与运行条件尚未核验。本文主要对象是语言模型智能体的经验记忆,并非 EEG 解码或 BCI 验证;其对神经信号任务的适用性不能由上述推理结果推出,已有 EEG 相关工作尚未检索确认。
值得核对 KIM 如何将成功轨迹中的行为调整存入独立记忆场,并在冻结骨干模型时支持新任务决策;摘要给出了与 trajectory RAG 的对照,但轨迹筛选及评估协议仍需全文验证。
来源:OpenReview · State space models · openreview.net