面向第一视角视频表征学习的细粒度手—物体动态建模
Modeling Fine-Grained Hand-Object Dynamics for Egocentric Video Representation Learning
基于摘要分析。该研究针对第一视角视频表征学习偏重视频与高层叙述对齐、难以充分刻画手与物体细粒度交互动态的问题,提出描述生成流程 HOD 和视频模型 EgoVideo,将手—物体动态信息引入表征学习。研究对象是第一视角视频理解,并非 EEG 解码或 BCI。 HOD 结合手—物体检测器与大语言模型,生成包含手—物体动态细节的文本描述。EgoVideo 引入轻量 motion adapter,以捕捉细粒度手—物体运动信息,并通过共同训练策略利用 HOD 数据。其方法重点是将细粒度动态描述与运动建模结合,而不只依赖高层语义叙述;检测结果如何转化为描述、adapter 的具体结构、训练目标与共同训练流程尚未验证。 作者报告,在 zero-shot 设置下,相较摘要未明确指明的对照,EK-100 multi-instance retrieval、EK-100 classification 和 EGTEA classification 分别提升 6.3%、5.7% 和 16.3%。摘要未说明这些提升对应的具体指标,也未明确百分比是否表示相对提升,因此不能将其改写为 Accuracy 或百分点。作者还报告在手—物体交互与机器人操作任务上的泛化能力,但摘要未提供相应任务协议和量化结果。 材料提供了代码与数据地址,但其内容、运行条件及可复现性尚未核验。实验划分、对照基线、描述质量、消融及统计信息尚未验证。该方法依赖视频中的手—物体检测与文本描述监督,当前材料未建立其与 EEG/BCI 的具体机制对应关系,不能据此推断神经信号解码效果;相关 EEG 工作尚未检索确认。
值得核对其细粒度手—物体描述生成流程与轻量 motion adapter 如何协同改善视频表征,但摘要中的性能提升尚需结合具体指标、基线和评估协议验证。
来源:OpenReview · Representation learning · openreview.net