跳到正文
OpenReview · Representation learning· Haowei Wang; Jiji Tang; Jiayi Ji; Xiaoshuai Sun; Rongsheng Zhang; Yiwei Ma; Minda Zhao; Lincheng Li; Zeng Zhao; Tangjie Lv; Rongrong Ji·· 2023-10-26精选AI 评分76

超越第一印象:融合联合多模态线索以学习全面的 3D 表征

Beyond First Impressions: Integrating Joint Multi-modal Cues for Comprehensive 3D Representation

AI 导读

基于摘要分析。本文研究如何借助 2D 视觉—语言预训练模型缓解 3D 表征学习的数据稀缺问题,提出 JM3D,通过多视图、层级文本及联合模态对齐学习点云、文本和图像的统一表征。研究对象是 3D 点云表征与零样本分类,并非 EEG 或 BCI。 作者认为,将 3D 表征仅与单视图图像、粗粒度父类别文本对齐,会造成信息退化;分别对齐视觉与语言模态,则不足以利用二者的联合信息。JM3D 的 Structured Multimodal Organizer(SMO)引入连续多视图图像和层级文本,以丰富视觉与语言表征;Joint Multi-modal Alignment(JMA)将语言知识融入视觉模态,构造联合模态进行对齐。具体损失函数、训练流程及预训练模型配置尚未验证。 作者报告,在 ModelNet40 和 ScanObjectNN 上的实验支持该方法的有效性,并称其达到零样本 3D 分类的最先进性能。摘要具体报告:在 ModelNet40 零样本分类中,相较 ULIP,采用 PointMLP 时提升约 4.3%,采用 PointNet++ 时 top-1 Accuracy 提升最高达 6.5%。原文未明确这些提升是相对百分比还是绝对百分点,因此不作换算;类别划分、完整对照、消融及统计信息尚未验证。作者称已公开实验源码和训练模型,但其可复现性尚未核验。 平台推测(待验证):可迁移假设是,若 EEG 数据具有同一试次的互补视图及可靠的层级任务语义,可借鉴“丰富视图后进行联合对齐”的思路,缓解单一视图或粗粒度标签的信息不足。可复用的是组织与对齐原则,点云编码器、图像视图构造和文本语义均需针对 EEG 改造;低信噪比、跨被试与通道差异、小样本及文本标签捷径可能使该假设失败。可先在固定跨被试划分下,以相同编码器比较独立对齐与联合对齐,并打乱文本对应关系检验语义贡献。相关 EEG 工作尚未检索确认,此建议不代表已有 BCI 效果。

阅读价值

值得核对 JM3D 如何利用多视图、层级文本与联合模态对齐改善零样本 3D 分类;其对 EEG/BCI 的价值尚未验证,不能由点云分类结果直接外推。

来源:OpenReview · Representation learning · openreview.net