基于 Video Deep InfoMax 的视频表征学习
Representation Learning with Video Deep InfoMax
基于摘要分析。本文研究视频自监督表征学习,将 Deep InfoMax(DIM)从图像扩展到视频,提出 Video Deep InfoMax(VDIM),利用时空网络内部结构构造不同视图,并结合原始时间采样率与时间下采样序列学习表征。 机制上,DIM 在依赖小块图像的局部特征与依赖整幅图像的全局特征之间构造预测任务;VDIM 将这一思路扩展至时空网络。摘要明确强调两种时间采样率的视图,但未提供具体损失形式、特征配对方式、网络结构或采样间隔,这些实现细节尚未验证。 作者报告,在使用 Kinetics 预训练的动作识别评估中,VDIM 达到或超过此前使用计算成本更高的大时间尺度 transformer 模型的方法;作者还考察了数据增强与微调方法,并报告仅在 UCF-101 上训练时大幅超过此前最佳结果。摘要未给出具体指标、数值、数据划分、对照模型及成本测量方式,实验协议、消融及统计信息尚未验证,不能据此量化优势或比较不同训练协议。 平台推测(待验证):其可迁移假设是,不同时间采样率与局部—全局预测可能帮助 EEG 表征同时捕获短时波形和较长时程结构,而非直接沿用视频网络。可复用的是视图构造与预测任务思路,需改造 EEG 编码器、通道处理及时间采样策略;该机制依赖局部与全局视图共享有效语义,在低信噪比、跨被试差异、通道配置变化及小数据条件下,可能学习伪迹或被试身份,时间下采样也可能损失任务相关频率信息。一个可证伪的小实验是在固定数据划分和编码器的条件下,比较单一采样率与双采样率自监督预训练的跨被试分类表现,并检查收益是否依赖保留任务相关频段。以上不是论文已验证的 EEG 或 BCI 结果,已有 EEG 相关工作尚未检索确认。
值得阅读的是 VDIM 如何利用时空网络内部的局部—全局特征及不同时间采样率构造自监督预测任务,但其性能优势与计算成本比较仍需结合全文实验协议核对。
来源:OpenReview · Representation learning · openreview.net