跳到正文
OpenReview · Representation learning· Yifang Chen; Yingbing Huang; Simon S. Du; Kevin G. Jamieson; Guanya Shi·· 2023-01-01精选AI 评分81

一般任务空间的主动表征学习及其在机器人学中的应用

Active representation learning for general task space with applications in robotics

AI 导读

基于摘要分析。本文研究多任务预训练中应主动从哪些源任务采样,以学习面向特定目标任务或一类任务的表征;主要贡献是提出统一的主动表征学习算法与理论框架,并在合成数据和机器人问题中验证其不同实例。原研究对象是通用多任务表征学习及机器人应用,并非 EEG 或 BCI。 框架涵盖任务感知与任务无关两种设置,允许离散到连续的源任务及目标任务空间,并提供可求解的元算法。作者给出双线性、基于特征的非线性及一般非线性情形的实例。在双线性情形下,方法利用任务表征的非均匀谱与经校准的源—目标关联;作者报告,达到目标任务 ε 超额风险的样本复杂度按 (k*)²‖v*‖₂²ε⁻² 缩放,其中 k* 为目标有效维度,‖v*‖₂²∈(0,1] 表征源与目标空间的联系。具体假设、采样规则及理论适用条件尚需正文核对。 作者报告,在合成数据、摆系统仿真及真实无人机飞行数据集的实验中,算法相对基线平均提升 20%–70%;摘要未说明这一范围对应的具体指标、计算口径、各任务划分与基线配置,不能解读为 Accuracy 的百分点提升。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将被试或会话定义为源任务,该框架可能用于按与目标任务的关联程度分配 EEG 训练数据采样预算。可复用的是任务选择与预算分配思想;需改造的是 EEG 表征、任务关联估计及目标数据可用条件。其适用依赖于可区分的源任务、可获得的监督或风险估计,以及足够可靠的关联估计;低信噪比、通道差异和目标小样本可能使任务选择失准。一个可检验的小实验是在固定 Cross-subject 划分、相同表征模型与采样预算下,对比主动源被试采样和均匀采样,明确目标被试训练数据的可用范围,并在独立测试集上比较预先指定的指标。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其将源任务主动选择与目标有效维度、源—目标关联联系起来的理论框架,但机器人实验的收益定义及其对 EEG 跨被试学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net