OpenReview · Representation learning·· 2026-09-03精选AI 评分77
双曲视觉语言模型的几何失效
The Broken Geometry of Hyperbolic Vision-Language Models
AI 导读
基于摘要分析。本文研究双曲视觉语言模型(VLM)的性能收益究竟来自双曲几何,还是额外的组合式数据与层级监督;作者提出保留相同组合式监督、但移除双曲运算与蕴含锥的欧氏层级感知 VLM,以检验几何机制的实际贡献。 现有方法在共享双曲空间中对图像与文本进行对比对齐,并借助蕴含锥约束整体与部分表示之间的层级顺序。作者报告,所分析模型的嵌入集中在小曲率流形的原点附近,实际运行于近欧氏区域,且多数嵌入位于蕴含锥理论有效域之外。这提示预期的双曲几何与蕴含机制可能未被充分利用;其有效域定义、诊断计算方式与模型覆盖范围仍需正文核对。 作者报告,在摘要所述的多种下游任务中,简化的欧氏模型持续优于现有双曲 VLM,但摘要未提供任务名称、数据集、数据划分、指标或具体数值。作者据此提出,既有收益可能主要源于额外的组合式数据和层级监督,而非双曲几何本身;这一解释不能直接推广为双曲几何在所有层级学习问题中无效。 复现时值得核对组合式监督、训练数据及优化设置是否匹配,并检查曲率、嵌入分布与蕴含锥有效域之间的关系。实验协议、消融及统计信息尚未验证。本文的直接研究对象是图像—文本层级表示,而非 EEG 或 BCI;摘要未提供具体神经信号机制对应,因此不据此推断 BCI 效果。
阅读价值
该研究通过保留组合式监督、移除双曲运算与蕴含锥的简化对照,检验层级表示学习的收益来源,值得核对几何诊断及监督匹配是否充分,但具体实验协议尚未验证。
来源:OpenReview · Representation learning · openreview.net