跳到正文
OpenReview · Representation learning· Adrien Bardes; Quentin Garrido; Jean Ponce; Xinlei Chen; Michael Rabbat; Yann LeCun; Mido Assran; Nicolas Ballas·· 2023-09-21精选AI 评分83

V-JEPA:用于视觉表征学习的潜在空间视频预测

V-JEPA: Latent Video Prediction for Visual Representation Learning

AI 导读

V-JEPA 研究如何通过潜在空间预测,将掩码建模用于视频自监督表征学习;其核心贡献是在学习到的表征空间预测被掩码的时空区域,并考察所得特征在无需调整模型参数时的下游可用性。以下基于摘要分析,未取得论文全文。 机制上,V-JEPA 的预测对象是视频区域的潜在表征,而非直接重建像素。摘要强调冻结评估:下游图像与视频任务不调整模型参数,但评估头的训练方式、具体损失、掩码策略及防止表征退化的机制尚未验证。 作者报告,在冻结评估下,Kinetics-400 和 Something-Something-v2 的成绩分别为 82.1% 和 71.2%,较此前最佳视频模型分别提高 4 和 10 个百分点;摘要未明确这两项成绩的指标名称、数据划分及具体对照配置。作者还报告,在涉及运动理解的任务上,视频预训练的 V-JEPA 优于作为图像预训练对照的 DINOv2 和 OpenCLIP,但摘要未给出这些对照的具体规模及完整协议。仅使用视频训练的 V-JEPA 在不进行图像微调时,ImageNet 分类 top-1 为 77.9%,较此前最佳视频模型提高 6 个百分点。上述结果均需结合全文核对预训练数据、评估设置、消融及统计信息。 平台推测(待验证):潜在空间掩码预测可作为 EEG 自监督预训练的候选机制,对应标注有限条件下的时序表征学习问题。原方法依赖具有时空结构的视频数据,但预训练规模及监督来源细节尚未验证;迁移时可借鉴潜在表征预测思路,需重新设计 EEG 的通道与时间编码、掩码区域及下游评估。低信噪比、跨被试差异、通道布局变化和小数据可能使模型优先学习伪迹或被试身份。可检验的小实验是在固定 EEG 数据划分和相同编码器下,对比潜在表征预测与信号重建预训练,并用冻结编码器的跨被试评估检验迁移收益。该假设不代表已有 EEG 效果,相关工作尚未检索确认。

阅读价值

值得关注其在学习到的表征空间预测被掩码时空区域、并以冻结参数评估特征的自监督机制,但视频任务中的收益不能直接视为 EEG/BCI 有效性的证据。

来源:OpenReview · Representation learning · openreview.net