跳到正文
OpenReview · Representation learning· Hao Tan; Zichang Tan; Jun Li; Jun Wan; Zhen Lei·· 2024-01-01精选AI 评分71

PVLR:用于多标签图像识别的提示驱动视觉—语言表征学习

PVLR: Prompt-driven Visual-Linguistic Representation Learning for Multi-Label Image Recognition

AI 导读

基于摘要分析。该研究面向多标签图像识别,针对既有方法未充分利用语言模型知识、主要将标签语义单向融入视觉特征的问题,提出 Prompt-driven Visual-Linguistic Representation Learning(PVLR),通过双提示策略与双向模态交互构建标签和图像表征。 双提示策略包括 Knowledge-Aware Prompting(KAP)和 Context-Aware Prompting(CAP):KAP 使用固定提示提取标签固有语义及标签间关系,CAP 使用可学习提示捕获上下文相关的标签语义及关系。Interaction and Fusion Module(IFM)负责交互、融合两类提示得到的表征;Dual-Modal Attention(DMA)则让文本与视觉特征双向交互,生成上下文相关的标签表征和语义相关的视觉表征,再通过相似度计算产生各标签的预测。 作者报告,PVLR 在 MS-COCO、Pascal VOC 2007 和 NUS-WIDE 三个多标签图像数据集上的实验优于对照方法,但摘要未给出具体指标、数值、数据划分及基线配置。提示构造、训练目标、预训练骨干、参数更新范围、消融及统计信息尚未验证,不能据此判断各模块的独立贡献或复现成本。 平台推测(待验证):该机制可为具有明确标签语义的 EEG 多标签任务提供研究假设,即同时利用固定标签知识与信号上下文调节标签表征。可复用的是双提示和双向交互思路,视觉编码器与视觉—语言对齐方式则需改造成 EEG 编码及信号—文本对齐;前提是具备适合的多标签标注和可用的语义描述。低信噪比、跨被试差异、通道配置变化及小样本可能使上下文提示学习不稳定,语言标签关系也未必对应神经信号关系。一个可证伪的小实验是在同一 EEG 数据划分与相同编码器下,对比固定提示、可学习提示及双提示,并分别比较单向与双向交互;应将被试内与跨被试结果分开报告。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对固定与可学习提示如何分别编码标签先验和上下文关系,以及双向视觉—语言交互相较单向融合的实际收益;其 EEG/BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net