随机上下文多臂老虎机中快速且样本高效的多任务表示学习
Fast and Sample Efficient Multi-Task Representation Learning in Stochastic Contextual Bandits
基于摘要分析。本文研究如何利用共享表示提高 contextual bandit 的学习效率:同时处理 T 个线性 contextual bandit 任务,假设这些任务共享维度 r ≪ d 的线性表示,通过恢复低秩特征矩阵实现任务间的信息共享。 方法采用交替投影梯度下降(GD)与最小化估计过程恢复低秩特征矩阵,再将该估计器用于多任务线性 contextual bandit 算法。作者报告,为估计器给出了构造性的理论保证,涵盖所需样本复杂度的下界及达到指定误差水平所需迭代次数的上界,并证明了决策算法的遗憾界。摘要未提供这些界的具体表达式、成立假设或对任务数量与表示维度的依赖,尚不能判断其适用范围和相对已有方法的改进幅度。 作者报告进行了实验并与基准算法比较,但摘要未披露数据、任务构造、对照方法或结果数值;具体实验协议、消融及统计信息尚未验证。复现前需核对低秩共享假设、上下文与奖励的条件、估计器初始化,以及探索策略和表示更新之间的关系。 平台推测(待验证):若 EEG 驱动的在线反馈任务可表述为线性 contextual bandit,且不同被试或会话的奖励参数确实共享低维子空间,该机制可能用于减少各任务独立学习所需的交互样本。可考虑复用低秩参数估计机制,但需重新设计 EEG 上下文特征、动作和奖励定义;低信噪比、通道差异及跨被试非平稳性可能破坏线性共享假设,小数据也可能导致子空间估计不稳。一个可证伪的小实验是在固定 EEG 特征和明确奖励定义的离线回放或仿真环境中,对比共享低秩与各任务独立估计,在相同交互预算下检验累计遗憾及负迁移,并明确模拟奖励不等于真实在线 BCI 效果。已有 EEG 相关工作尚未检索确认。
值得关注其以共享低秩表示连接多任务参数估计与 contextual bandit 决策的机制,以及对样本复杂度、迭代复杂度和遗憾界的理论分析,但具体界限与实验优势尚待全文核对。
来源:OpenReview · Representation learning · openreview.net