跳到正文
OpenReview · Representation learning· Guoqing Ma; Yalong Bai; Wei Zhang; Ting Yao; Basem Shihada; Tao Mei·· 2023-01-01精选AI 评分75

利用动态上下文增强通用视觉—语言表征

Boosting Generic Visual-Linguistic Representation With Dynamic Contexts

AI 导读

基于摘要分析。本文研究视觉—语言(VL)预训练如何超越静态图像内容与局部掩码预测,利用事件前后语境学习更丰富的表征。作者将图像的动态上下文表示为描述图像所示事件之前、当时及之后事件的句子,并据此构造图像间的相关性监督。 核心机制是动态上下文相似度(DCS):不同于仅依据图像描述计算相似度,它还将潜在原因与后果纳入图像相关性度量。作者进一步通过参数化事件连续性简化 DCS,以放宽对密集上下文事件标注的要求,并设计预训练任务,缩小动态上下文相关图像之间的特征距离。其目标是将事件因果关系与常识知识纳入 VL 表征;具体相似度公式、上下文来源、连续性参数化方式及训练目标细节尚未验证,不能据此认定模型实现了严格的因果识别。 作者报告,基于动态上下文的模型在视觉常识推理(VCR)、视觉问答(VQA)、零样本图文检索及扩展的图像/事件排序任务上优于典型 VL 模型。摘要未提供具体数据集、划分、基线配置或指标数值,实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制是用事件连续性构造表征学习的相关性监督,而非直接复用图像语义。假设 EEG 数据具有同步事件标注及可靠的试次时序,该思路或可用于学习事件上下文相关表征;编码器、上下文定义和相似度构造均需改造。主要风险是 EEG 低信噪比、跨被试差异及小数据使模型学习到时间邻近或会话特征,而非任务信息。一个可检验的小实验是在相同 EEG 编码器与划分下,对照真实事件上下文和打乱上下文监督,检验收益是否依赖正确的事件关系。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以事件前后语境构造图像相关性监督的机制,尤其是事件连续性参数化能否降低密集标注需求;摘要中的因果表述尚不能视为因果识别证据。

来源:OpenReview · Representation learning · openreview.net