词汇不完整条件下的无监督视觉语言模型适应
Vocabulary-Incomplete Unsupervised Vision-Language Model Adaptation
基于摘要分析。本文研究视觉语言模型(VLM)在适应阶段仅能获得部分类别名称时的无监督适应问题,提出 Vocabulary-Incomplete Unsupervised Vision-language model Adaptation(VI-UVA)设定,并以 Label Space Reconstruction(LSR)缓解模型对已提供类别的适应偏差。 原问题是利用图像—文本相似度为未标注图像生成伪标签,从而无需人工标注即可进行模型适应。摘要指出,既有方法假设适应词汇包含全部类别名称;实际数据可能包含被遗漏或超出当前任务范围的类别,使这一假设难以满足。不完整词汇会让适应过程偏向已提供类别,损害遗漏类别的识别。 LSR 从未标注数据中重建潜在标签空间,并将其纳入 prompt tuning,使适应不再局限于已知类别名称。作者还报告推导了 LSR 的遗漏类别语义差异界,并分析影响该界的关键因素;潜在标签空间的构建方式、优化目标、理论假设及界的具体形式尚未验证。 作者报告,LSR 在八个基准上的实验优于现有最先进方法,但摘要未提供基准名称、词汇缺失比例、数据划分、对照方法或具体指标,无法判断优势幅度及适用范围。实验协议、消融及统计信息尚未验证。摘要称代码位于补充材料中,其可获取性与复现条件尚未核验。 本文主要研究图像与文本语义之间的模型适应,并非 EEG 或 BCI 方法。其效果依赖 VLM 的图文对齐能力及未标注数据中的类别结构;现有材料不足以建立面向神经信号的具体迁移路径,不应据此推断 BCI 有效性,相关 EEG 工作尚未检索确认。
值得关注其如何缓解类别名称不完整引起的适应偏差:LSR 将未标注数据中的潜在标签空间引入 prompt tuning,并提供遗漏类别语义差异界,但具体实现与实验优势仍需全文核验。
来源:OpenReview · State space models · openreview.net