跳到正文
OpenReview · Representation learning· Jialv Zou; Bencheng Liao; Qian Zhang; Wenyu Liu; Xinggang Wang·· 2024-01-01精选AI 评分78

MIM4D:面向自动驾驶表征学习的多视角视频掩码建模

MIM4D: Masked Modeling with Multi-View Video for Autonomous Driving Representation Learning

AI 导读

基于摘要分析。MIM4D 针对自动驾驶中大规模多视角视频表征学习对昂贵 3D 标注的依赖,以及单帧或单目预训练难以充分利用时间信息的问题,提出双重掩码图像建模(MIM)预训练范式,将空间与时间关系纳入表征学习。 机制上,方法以掩码多视角视频为输入,利用连续场景流构建伪 3D 特征,并将其投影到 2D 平面形成监督;同时通过 3D 体积可微渲染重建像素,以在缺乏稠密 3D 监督的条件下学习几何表征。摘要未交代双重掩码的具体配置、损失组合及场景流的获取方式,这些实现条件尚待核对。 作者报告,在 nuScenes 的自动驾驶视觉表征学习评估中,MIM4D 达到当时最优表现,并改善多个下游任务:BEV segmentation 的 IoU 提升原文记为 8.7%,3D object detection 的 mAP 提升记为 3.5%,HD map construction 的 mAP 提升记为 1.4%。摘要未明确这些增益是相对百分比还是绝对百分点,也未提供对应基线、数据划分和完整评估协议,因此不能进一步换算或直接横向比较。实验协议、消融及统计信息尚未验证。摘要声明代码与模型已发布,但本次未核验实现与复现条件。 平台推测(待验证):可供 EEG 借鉴的是联合空间与时间约束的掩码建模思路,而非自动驾驶的 3D 几何重建结论。原方法依赖多视角视频、场景流及可渲染几何;若迁移到 EEG,需重新定义通道空间关系与重建目标,不能直接套用场景流和体积渲染。低信噪比、跨被试差异及通道配置变化可能使重建目标偏向噪声。一个可检验的假设是:在固定数据划分、骨干网络与训练预算下,联合通道—时间掩码比仅时间掩码更有利于跨被试下游表现,可用小规模对照实验检验;已有相关 EEG 工作尚未检索确认。

阅读价值

值得核对 MIM4D 如何将多视角视频的时空一致性与可微渲染结合,在不依赖稠密 3D 标注的条件下学习几何表征;其对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net