跳到正文
OpenReview · Representation learning· Congcong Li; Xinyao Wang; Longyin Wen; Dexiang Hong; Tiejian Luo; Libo Zhang·· 2022-12-31精选AI 评分75

面向通用事件边界检测的端到端压缩视频表征学习

End-to-End Compressed Video Representation Learning for Generic Event Boundary Detection

AI 导读

基于摘要分析。本文研究视频中的通用事件边界检测,即不依赖预定义事件类别,将视频切分为片段的边界定位任务。核心贡献是直接利用压缩域中的 RGB、运动向量、残差及图像组(GOP)内部结构学习表征,减少完整解码视频带来的计算与存储开销。 方法先通过 ConvNets 提取 GOP 内 I 帧的特征,再由轻量级空间—通道压缩编码器结合运动向量、残差及所依赖 I 帧的表征,计算 P 帧表征;随后利用时间对比模块确定事件边界。作者还使用高斯核预处理真实边界标注,旨在缓解标注歧义并加快训练。摘要未提供时间对比模块的具体目标函数、高斯核参数或训练配置,相关细节尚未验证。 作者报告,在 Kinetics-GEBD 数据集实验中,该方法取得与当时最先进方法可比的结果,同时运行速度达到对照的 4.5 倍。摘要未给出具体检测指标、分数、数据划分、硬件及计时是否包含解码等背景,因此尚不能判断速度收益的完整适用条件;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的思路是利用数据已有的压缩依赖结构,以关键片段表征辅助其他片段计算,而非直接复用视频模型。假设 EEG 存在可保留事件边界信息的参考片段—残差表示,可尝试减少重复编码;但 EEG 通常不具备视频 GOP 和运动向量结构,需要重新设计参考片段、残差编码及边界监督,低信噪比和跨被试差异可能抵消收益。一个可证伪的小实验是在固定被试内划分和同一边界标注下,对比完整信号编码与参考片段—残差编码,同时测量边界检测效果及端到端耗时。该对应关系尚非本文验证结果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其利用视频编码依赖结构减少完整解码开销的实现路径;作者报告在 Kinetics-GEBD 上以可比检测效果实现 4.5 倍运行速度,但计时范围与对照协议尚需核对。

来源:OpenReview · Representation learning · openreview.net