GoDeep:通过语言空间提升实现无需标注的开放词汇三维场景理解
GoDeep: Annotation-Free Open-Vocabulary 3D Scene Understanding via Language-Space Lifting
基于摘要分析。GoDeep 面向开放词汇三维语义分割,将视觉语言模型用作结构化描述的生成器,而非直接把 CLIP 特征提升到三维空间。其核心贡献是把具有相机位姿信息的图像转换为实体级文本描述,经定位、投影和聚合后,在通用纯语言嵌入空间中构建三维语义表示,无需三维训练语料或专用三维编码器。 方法动机是作者认为 CLIP 的联合视觉语言空间在组合任务中存在类似词袋的行为,而部分无需标注的方法仍依赖较大的三维训练语料和面向各领域的编码器。GoDeep 保留离散文本作为可检查的语义表示,作者据此主张预测可在点级别解释。摘要另提出一种概念验证性质的聚合策略,结合偏重精确观测而非仅高频观测的启发式加权与可解释性,以改善细小元素的定位;具体聚合公式、描述定位方式及所用模型尚未验证。 作者报告,在 ScanNet++ 上,该流程与在 ScanNet 上训练的强无需标注基线具有竞争力,但摘要未提供指标或数值。在包含 5 栋建筑的文化遗产基准上,原始得分起初有利于 CLIP 变体,一次系统性词汇校正后排名反转;作者还报告,在另一类别上进行第二次独立校正也确认了这一效应,并将其解释为语言空间嵌入更忠实地对应物理内容。校正规则、适用范围及比较公平性需结合全文核对,不能仅由排名反转认定一般性优势。 对于 ScanNet++ 中真正的词汇外(OOV)对象,作者报告语言空间嵌入比 CLIP 嵌入更清晰地区分对象存在与不存在,并能在无需二维—三维标注的条件下定位这些对象。OOV 定义、数据划分、评价指标、实验协议、消融及统计信息尚未验证。复现还需明确视觉语言模型、文本嵌入模型、提示模板、相机位姿与几何输入要求及词汇校正流程。该研究的直接对象是三维场景理解,摘要未提供 EEG 或 BCI 验证,不能将上述结果视为神经信号解码效果。
值得核对其以结构化文本替代 CLIP 特征进行三维语义聚合的机制,以及词汇校正导致基线排名反转的评估现象;其词汇外对象识别与定位优势目前仅有摘要中的作者报告支持。
来源:OpenReview · State space models · openreview.net