跳到正文
OpenReview · Representation learning· Angfan Zhu; Yang Xiao; Chengxin Liu; Zhiguo Cao·· 2023-01-01精选AI 评分74

基于模态适配局部到全局表征的鲁棒 LiDAR-Camera 对齐

Robust LiDAR-Camera Alignment With Modality Adapted Local-to-Global Representation

AI 导读

基于摘要分析。该研究面向 LiDAR 与相机数据融合前的对齐问题,提出模态适配的局部到全局表征学习方法,以统一深度域缓解模态差异,并通过 ViT 聚合全局空间信息,目标是在相机图像退化时仍保持对齐鲁棒性。 机制上,LiDAR 数据依据预先获取的外参转换为深度图;相机图像则通过基于深度学习的单目深度估计转换为深度图,且该估计过程与 LiDAR-Camera alignment(LCA)联合优化。在此基础上,作者引入 LCA token,通过 transformer 编码聚合局部空间模式,形成全局空间表征。该 token 在所有样本间共享,作者认为这有助于利用样本层面的全局信息提升泛化能力;其具体实现与作用仍需正文核对。 作者报告,在 KITTI 数据集上的实验支持该方法的对齐性能,并显示其对相机图像模糊、噪声等退化更鲁棒。在部分挑战性测试情形下,作者报告平移误差与旋转误差的改善分别超过 1.9 cm 和 4.1°,但摘要未明确这些改善对应的具体对照方法、退化强度与测试划分。作者同时报告模型规模为 8.77M,并与 LCCNet 的 66.75M 作比较;这一规模比较不能直接等同于推理速度或部署成本优势。 复现时需核对预先获取外参的使用方式、单目深度估计与对齐的联合优化细节、共享 LCA token 的实现,以及数据划分和退化测试协议。实验协议、消融及统计信息尚未验证。摘要称代码将在论文接收后发布,当前材料不能确认接收或代码发布状态。该研究的直接对象是几何传感器对齐,并非 EEG/BCI,不能将其结果直接视为神经信号跨模态对齐的有效性证据。

阅读价值

值得核对其统一深度域与共享 LCA token 如何协同改善跨模态对齐,尤其是相机退化条件下的误差与模型规模权衡,但当前证据仅来自摘要。

来源:OpenReview · Representation learning · openreview.net