跳到正文
OpenReview · Representation learning· Xinyu Sun; Peihao Chen; Liangwei Chen; Changhao Li; Thomas H. Li; Mingkui Tan; Chuang Gan·· 2023-01-01精选AI 评分71

用于自监督视频表征学习的掩码运动编码

Masked Motion Encoding for Self-Supervised Video Representation Learning

AI 导读

基于摘要分析。本文研究如何从无标签视频中学习具有判别力的表征,提出 Masked Motion Encoding(MME)预训练范式,通过联合重建掩码区域的外观与运动信息,促使模型学习时间线索,而非主要依靠单帧外观完成重建。 核心机制是将对象的位置变化与形状变化表示为运动轨迹,并以掩码区域中的轨迹重建作为学习任务。针对跨多帧的长期运动建模与稀疏采样下细粒度时间信息不足的问题,MME 要求模型从稀疏视频输入重建空间和时间维度上的稠密运动轨迹。相较仅恢复外观的掩码建模,其关键差异在于显式引入动态重建目标;但运动轨迹的计算方式、监督目标构造、损失形式和模型结构尚未验证。 作者报告,使用 MME 预训练后,模型能够预测长期且细粒度的运动细节。摘要未提供评估数据集、数据划分、对照基线或定量指标,因此尚不能判断提升幅度及适用范围;实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但实现内容与复现条件尚未核验。 平台推测(待验证):可检验的迁移假设是,在 EEG 自监督掩码建模中加入跨时间变化的重建目标,可能比仅恢复局部波形更有利于学习动态表征。可借鉴的是“静态内容与动态变化联合重建”的任务设计,而非直接照搬视频对象的位置、形状及空间轨迹;EEG 需要重新定义动态目标,并核对其是否依赖额外监督或高密度采样。低信噪比、通道布局差异、跨被试变化及小数据条件可能使动态目标主要编码噪声或个体特征。一个小规模验证可在固定数据划分、模型和预训练预算下,对比波形重建与加入时间变化重建的方案,分别评估被试内和跨被试下游表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过联合重建外观与运动轨迹,缓解视频掩码建模仅凭单帧外观即可完成重建的问题;具体收益及其对 EEG 时序表征的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net