Agentic In-Context Learning:Transformers 能在闭环交互中学习哪些算法?
Agentic In-Context Learning: What Algorithms Can Transformers Learn in Closed-Loop Interaction?
基于摘要分析。本文研究固定参数 Transformers 在闭环交互中能够学习和执行哪些学习算法:模型的动作不仅影响任务结果,也决定下一步进入上下文的证据。作者将这一设定称为 Agentic In-Context Learning(Agentic ICL),从算法表达能力与奖励驱动训练两个方面展开分析。 机制与理论:论文用状态、更新规则和决策规则描述交互式学习器,覆盖主动学习、bandits 和在线强化学习(RL)。作者构造了在有限时域内近似这些算法的因果 Transformers,并对近似导致的回报损失给出界。训练分析则关注何种条件下优化过程奖励仍能保留使最终结果最大化的行为;具体假设、近似误差度量和界的形式尚未验证。 实验与发现:作者报告,蒸馏实验中的 Transformers 能学会执行三种代表性递推,但摘要未说明具体算法及评估设置。随后,作者仅使用结果奖励或过程奖励进行训练,不提供 oracle 动作或状态目标,以对应 RL 后训练场景。作者报告,不同奖励产生不同决策策略;提高过程监督与结果最优动作偏好的对齐程度,会相应改变模型的决策。这类行为差异在一个预训练语言模型上跨文本改写仍然存在,但不能据此推断其具有跨任务或跨领域泛化能力。 证据边界:摘要未提供模型规模、任务数据、对照基线或定量结果,实验协议、消融及统计信息尚未验证。本文主要研究通用交互式学习算法,而非 EEG 解码或 BCI;闭环交互这一共同形式本身不足以证明对 BCI 有效,尚未检索确认已有 EEG 相关工作。
值得关注其将闭环交互中的 ICL 统一为可执行学习算法,并分析过程奖励何时保留最终结果最优行为;理论适用条件及实验泛化范围仍需全文核对。
来源:arXiv · 学习目标与优化 · arxiv.org