OpenReview · Representation learning· Naoyuki Terashita; Yusuke Tozaki; HIDEAKI OMOTE; Kha Cong Nguyen; Ryosuke Nakamoto; Yuta Koreeda; Hiroaki Ozaki·· 2025-05-08精选AI 评分72
视觉编码器能学会识别箭头吗?
Can Visual Encoder Learn to See Arrows?
AI 导读
基于摘要分析。本文研究视觉语言模型(VLMs)为何难以识别图示中的连线与箭头,并检验视觉编码器能否通过减少文本与位置偏置的训练数据学习显式的边表征。核心贡献是构造人工生成的图示—描述数据集,以对比学习训练图像编码器,并从多个任务评估其图示理解能力。 作者提出,VLMs 对文本和位置线索的过度依赖可能阻碍其学习边本身的视觉特征。为检验这一假设,研究使用摘要所称边关系不受文本或位置信息偏置的数据进行训练,并通过 probing、图像检索和描述生成三类任务评估所得表征。摘要未提供去偏数据的具体生成规则、对比学习损失、训练规模及编码器更新范围,这些实现条件尚未验证。 作者报告,在文中评估设置下,微调模型在三类任务中均优于预训练 CLIP,并在描述生成任务中超过零样本 GPT-4o 和 LLaVA-Mistral。摘要未给出具体指标、数值、数据划分及提示设置;这些结果也涉及微调模型与零样本模型的不同训练前提,不能据此推断一般性的模型能力优劣。 作者将结果解释为消除文本与位置偏置有助于准确识别边。仍需结合全文核对偏置控制方式、训练与测试图示的关系、各因素的消融及统计信息,以判断提升来源和泛化范围。研究主要对象是通用图示理解,并未提供 EEG 或 BCI 验证;现有材料不足以建立具体迁移路径,不据此推断神经信号解码收益。
阅读价值
该研究通过合成图示与对比学习检验视觉编码器的边识别能力,值得关注其去偏数据构造及跨任务评估,但摘要尚不足以验证性能提升是否可归因于文本与位置偏置的消除。
来源:OpenReview · Representation learning · openreview.net