跳到正文
OpenReview · Representation learning· Hao Tan; Zichang Tan; Jun Li; Jun Wan; Zhen Lei·· 2024-01-01精选AI 评分71

PVLR:面向多标签图像识别的提示驱动视觉语言表征学习

PVLR: Prompt-driven Visual-Linguistic Representation Learning for Multi-Label Image Recognition

AI 导读

基于摘要分析。本文研究多标签图像识别,提出 Prompt-driven Visual-Linguistic Representation Learning(PVLR),旨在更充分地利用语言模型中的标签知识,并改善既有方法将标签语义单向融入视觉特征的方式。其贡献是结合固定提示与可学习提示,并通过文本—视觉双向交互生成用于多标签预测的表征。 机制上,Knowledge-Aware Prompting(KAP)使用固定提示获取标签内在语义及标签间关系;Context-Aware Prompting(CAP)使用可学习提示获取上下文相关的标签语义与关系。Interaction and Fusion Module(IFM)对两类提示得到的表征进行交互与融合;Dual-Modal Attention(DMA)进一步实现文本与视觉特征的双向交互,产生上下文相关的标签表征和语义相关的视觉表征,随后通过相似度计算完成各标签预测。摘要未给出具体损失函数、提示构造、训练参数及推理细节。 作者报告,在 MS-COCO、Pascal VOC 2007 和 NUS-WIDE 三个多标签图像数据集上的实验支持 PVLR 的优势,但摘要未提供指标数值、数据划分或具体对照结果,因而尚不能量化双提示与双向交互各自的贡献。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务具备语义明确、可能共现的多标签标注,标签知识与信号特征双向交互可作为待检验机制。原方法依赖图像—文本表征及标签语义结构;迁移时可借鉴 KAP、CAP 与 DMA 的设计,但需改造信号编码与语义对齐模块,不能直接将视觉语言表征视为 EEG 表征。低信噪比、跨被试差异、通道变化及小数据条件可能使可学习提示过拟合,或使标签共现先验压过信号证据。一个可证伪的小实验是在同一多标签 EEG 数据划分下,固定信号编码器,比较无语义融合、单向融合与双向交互,并加入打乱标签语义的对照,检验收益是否真正来自语义对应。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是固定与可学习双提示结合、再以双向注意力连接标签语义和视觉特征的机制;其相对单向融合的具体增益及对 BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net