跳到正文
OpenReview · Representation learning· Jiagang Zhu; Zheng Zhu; Wei Zou·· 2018-01-01精选AI 评分73

面向动作识别的端到端视频级表征学习

End-to-end Video-level Representation Learning for Action Recognition

AI 导读

基于摘要分析。本文研究视频动作识别中的视频级表征学习,针对局部观测训练带来的混淆、非端到端学习及单一时间尺度建模等问题,提出基于双流 ConvNets 的 Deep networks with Temporal Pyramid Pooling(DTPP),以端到端方式形成多时间尺度的视频表征。 核心机制是在整个视频范围内稀疏采样 RGB 图像和光流堆栈,再通过时间金字塔池化层聚合包含空间与时间线索的帧级特征。作者将得到的紧凑视频级表征描述为兼具全局性与序列感知能力。其方法重点是从局部帧或片段特征转向整段视频的多尺度聚合;摘要未提供池化的具体形式、时间尺度配置、损失函数及采样数量。 作者报告,在 UCF101 和 HMDB51 视频动作识别数据集上,采用 ImageNet 预训练或 Kinetics 预训练时,DTPP 均达到当时的最先进表现。摘要未给出具体指标数值、数据划分及对照配置,因此该结论仍需结合正文核对;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,多时间尺度聚合可能帮助 EEG 解码同时利用局部变化与较长时间上下文。可复用部分是时间金字塔聚合思路,而 RGB/光流双流输入及视觉特征提取器需要改造为适合 EEG 的时序编码器。原方法依赖视频帧、光流及视觉预训练,其效果不能直接外推到低信噪比、小数据、通道配置变化或跨被试场景;稀疏采样还可能遗漏短暂事件。一个可检验的小实验是在同一 EEG 任务、固定编码器和一致数据划分下,对比全局池化与时间金字塔池化,分别检查被试内和跨被试表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过时间金字塔池化整合全视频多时间尺度信息的机制,但摘要中的动作识别结果不能作为 EEG/BCI 有效性的证据。

来源:OpenReview · Representation learning · openreview.net