跳到正文
OpenReview · Representation learning· Cheng-An Hsieh; Cheng-Ping Hsieh; Pu-Jen Cheng·· 2022-01-01精选AI 评分73

Mr. Right:基于图文表示的多模态检索

Mr. Right: Multimodal Retrieval on Representation of ImaGe witH Text

AI 导读

该研究面向图文混合文档检索,提出 Mr. Right 数据集,以覆盖查询依赖文本内容、图像信息或两者结合的不同需求,并提供多模态训练范式及已有检索框架的评估。基于摘要分析,未取得论文全文。 研究的主要对象是信息检索,而非 EEG 或 BCI。其出发点是:传统单模态检索及图文检索对查询需求的覆盖有限,现实查询可能涉及文档正文、图像描述或两者。作者利用包含丰富图文样本的 Wikipedia 数据,生成 text-related、image-related 和 mixed 三类文本查询;这里查询本身均为文本,变化的是查询所依赖的模态信息,并非三种不同输入模态。 作者提供多模态训练范式,并评估既有文本检索与图像检索框架。作者报告,多模态检索能够改善检索表现,但将文本与图像整合为良好的统一文档表示仍具挑战。摘要未提供具体指标、增益幅度或对照配置,因此不能据此判断收益大小或各类查询的表现差异。 阅读全文时应重点核对查询生成与相关性标注方式、图文配对规则、训练与测试划分,以及统一表示如何融合两种模态。数据规模、模型结构、损失函数、实验协议、消融及统计信息尚未验证。材料没有提供神经信号数据或明确的 EEG 方法对应关系,不能将其结果解读为 BCI 有效性的证据。

阅读价值

值得关注其按文本相关、图像相关和混合信息构造查询的评估设计,可用于考察检索系统是否真正利用不同模态;具体构造流程与性能增益仍需全文核对。

来源:OpenReview · Representation learning · openreview.net