跳到正文
OpenReview · Representation learning· Sepehr Sameni; Simon Jenni; Paolo Favaro·· 2023-01-01精选AI 评分75

用于视频表征学习的时空裁剪聚合

Spatio-Temporal Crop Aggregation for Video Representation Learning

AI 导读

基于摘要分析。本文研究如何高效学习长程视频表征,提出 Spatio-temporal Crop Aggregation for video representation LEarning(SCALE):聚合由预训练骨干提取的视频片段级特征,并通过自监督掩码片段特征预测学习跨片段信息。研究对象是视频表征学习,并非 EEG 或 BCI。 核心机制是在预训练骨干的潜在特征空间中建模,而非直接重建原始视频。方法随机抽取一组视频片段,使输入保持稀疏;损失仅对这些稀疏输入进行重建,从而减少处理与预测的范围。作者将潜在空间降维、输入稀疏性及损失稀疏性作为提高训练效率与迁移能力的关键设计,并声称方法在训练和推理时均具有可扩展性。具体聚合结构、掩码策略及损失形式尚未验证。 作者报告,在常用动作分类和视频理解数据集上,使用 linear、nonlinear 和 k-NN probing 获得当时最先进的性能。摘要未提供数据集名称、划分协议、对照方法、具体指标及计算开销,因此目前不能量化性能或效率优势;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 片段编码器能提供稳定且保留任务信息的潜在特征,可尝试复用“片段特征聚合+稀疏掩码预测”机制,以降低长时序建模成本。其前提是具有足够的无标签记录与可靠片段表征;视频骨干不能直接替代 EEG 编码器,时间位置、通道布局和片段长度也需改造。低信噪比、跨被试差异及小数据可能使重建目标偏向伪迹或被试特征,稀疏采样还可能遗漏短暂事件。一个可检验的小实验是固定 EEG 编码器,在相同被试划分、训练预算及线性探测协议下,对比均值聚合与稀疏掩码聚合,同时记录下游性能和计算开销。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其在预训练片段特征上进行稀疏采样与掩码预测的长程表征机制,但效率和迁移优势仍需核对完整实验,其对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net