通过主动采样学习多任务
Learning to Multitask by Active Sampling
基于摘要分析。本文研究如何让单个智能体在线学习多个目标导向的序贯决策任务,提出不依赖任务专家监督的主动采样框架,核心思路是对较难任务分配更多训练机会,而不是通过模仿多个任务专用专家的策略完成蒸馏。 框架包含三种方案:自适应采样方法;将下一训练任务的选择建模为多臂老虎机问题的 UCB 元学习器;将任务选择建模为完整强化学习问题、以 actor-critic 方法直接优化多任务表现的元学习方法。其方法关注训练任务的调度,而非摘要中明确描述的网络结构创新;任务难度的定义、采样概率更新方式、状态与奖励设计尚未验证。 作者报告在 Atari 2600 上评估了七组多任务设置,包括三组 6 任务、一组 8 任务、两组 12 任务和一组 21 任务设置,并称自适应方法具有较强竞争力。摘要未提供具体分数、对照基线或训练预算,因而不能据此确认性能优势、样本效率或计算成本收益。实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移机制是依据学习反馈动态分配训练预算,可假设用于多任务 EEG 解码中的任务采样;但这依赖可比较、稳定的任务难度反馈,不能直接沿用 Atari 的交互奖励。可复用任务选择器,需改造反馈指标与任务定义。低信噪比、跨被试差异、通道不一致及小数据条件可能使“困难任务”反映噪声或不可学习差异,造成训练预算偏置。一个可检验的小实验是在固定 EEG 数据、模型、被试划分和总更新次数下,对比均匀任务采样与难度自适应采样,并逐任务报告同一指标及多次运行的不确定性。上述迁移不属于原文验证结果,已有 EEG 相关工作尚未检索确认。
值得关注其将多任务训练中的任务选择建模为主动采样、UCB 多臂老虎机及 actor-critic 优化的不同路径,但摘要不足以判断其相对基线收益或 EEG/BCI 适用性。
来源:OpenReview · Representation learning · openreview.net