跳到正文
OpenReview · Representation learning· Hao Tan; Zichang Tan; Jun Li; Jun Wan; Zhen Lei·· 2024-01-01精选AI 评分71

PVLR:用于多标签图像识别的提示驱动视觉—语言表征学习

PVLR: Prompt-driven Visual-Linguistic Representation Learning for Multi-Label Image Recognition

AI 导读

基于摘要分析。本文研究多标签图像识别,提出 Prompt-driven Visual-Linguistic Representation Learning(PVLR),旨在更充分地利用语言模态中的标签语义知识,并改善既有方法将标签语义单向融入视觉特征的方式。 机制上,PVLR 使用双提示策略:Knowledge-Aware Prompting(KAP)通过固定提示获取标签自身的语义知识及标签间关系;Context-Aware Prompting(CAP)通过可学习提示获取上下文相关的标签语义及关系。Interaction and Fusion Module(IFM)负责交互并融合两类提示获得的表征。框架还引入 Dual-Modal Attention(DMA),使文本与视觉特征双向交互,得到上下文相关的标签表征和语义相关的视觉表征,再通过相似度计算生成各标签预测。摘要未说明具体损失、提示构造、训练范围及各模块的详细连接方式。 作者报告,PVLR 在 MS-COCO、Pascal VOC 2007 和 NUS-WIDE 三个多标签图像数据集上的实验显示优于对照方法;摘要未提供指标、数值、数据划分或基线细节,因此无法据此判断增益大小。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务具有明确的多标签标注,且标签间存在可用自然语言表达的关系,可检验“固定标签知识与可学习上下文互补”的假设。可复用提示与双向交互思路,但视觉编码器及其与文本的对齐方式需要针对 EEG 改造,不能直接视为可用的 BCI 方法。低信噪比、跨被试差异、通道配置变化及小数据条件可能使上下文提示过拟合,语言先验也可能与实际神经信号关系不符。一个小规模检验是在固定 EEG 编码器和相同跨被试划分下,对比单向融合、仅固定提示及双提示双向交互,并以打乱标签文本关系作为对照。相关 EEG 工作尚未检索确认。

阅读价值

值得核对的是固定与可学习提示如何分别建模标签知识和上下文,以及文本—视觉双向交互相对单向语义融合的实际增益;其对 EEG 多标签任务的价值尚未验证。

来源:OpenReview · Representation learning · openreview.net