面向双曲视觉语言模型的组合蕴含学习
Compositional Entailment Learning for Hyperbolic Vision-Language Models
基于摘要分析。本文研究视觉语言模型如何利用视觉与文本概念的层级关系,提出 Compositional Entailment Learning:不只对齐单个图像—文本对,而是将图像视为多个对象框及其文本描述的组合,在双曲嵌入空间中联合学习整体与局部的层级关系。 方法从句子中提取名词,并借助公开可用的定位模型获取对象框等局部信息,再通过对比目标与基于蕴含的目标,组织图像、对象框及其文本描述。相较于仅采用整图—文本对齐,其主要变化是显式引入局部组成及层级约束;双曲空间承担表达层级结构的作用。具体蕴含方向、损失形式、定位模型及噪声处理方式尚未验证。 作者报告,在使用数百万图像—文本对训练的双曲视觉语言模型上,该方法相较常规欧氏 CLIP 学习及近期双曲方法,取得更好的零样本与检索泛化表现,并改善层级任务表现。摘要未提供具体数据集、划分、指标数值或训练预算,实验协议、消融及统计信息尚未验证,暂不能判断提升幅度与各组件的独立贡献。 平台推测(待验证):若 EEG 任务具有可靠的粗粒度—细粒度标签及配对文本,层级蕴含目标可能用于约束表征,但 EEG 并不存在与对象框直接等价的局部语义单元,需重新定义时段或通道组合及其监督关系,不能直接照搬视觉定位模块。低信噪比、跨被试差异与小样本可能使局部语义约束失真;一个可检验的小实验是在固定编码器和跨被试划分下,对比纯对比学习与加入层级蕴含约束的模型,并单独检查细粒度分类及层级一致性。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。
值得阅读之处在于将整图—文本对齐扩展为图像、局部对象框及文本的层级蕴含学习,但其收益对自动定位质量与训练规模的依赖仍需全文核对。
来源:OpenReview · Representation learning · openreview.net