跳到正文
OpenReview · Representation learning· Bo Li; Yongqiang Yao; Jingru Tan; Ruihao Gong; Jianwei Lu; Ye Luo·· 2024-01-01精选AI 评分75

纠正视觉语言模型中的表征偏差以实现长尾识别

Rectify representation bias in vision-language models for long-tailed recognition

AI 导读

基于摘要分析。本文研究视觉语言(VL)模型中的长尾图像识别问题,认为尾部类别的识别瓶颈不仅与样本稀缺有关,还来自它们与高度相关的头部类别之间的混淆。作者提出 rectification contrastive term(ReCT),依据语义提示和训练状态纠正表征偏差。 机制上,作者将每个样本的表征学习分为学习本类别独有属性的特有部分,以及学习类别间共享特征的共有部分。作者分析认为,共有表征的学习容易偏向头部类别,使分类决策过度依赖有偏的共有信息,而未充分利用具有区分力的类别特有信息。相较于主要围绕类别频率处理长尾问题的方法,本文强调类别相关性这一因素;摘要未给出 ReCT 的具体损失形式、语义提示构造或训练状态的计算方法。 作者报告在三个常用长尾数据集上验证了 ReCT;其中,在 iNaturalist2018 上使用 ResNet-50 视觉骨干时,总体 Accuracy 为 75.4%,较基线提高 3.6 个百分点。摘要未明确基线名称、数据划分及完整训练配置,另外两个数据集名称也未提供;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其机制可能启发类别不平衡 EEG 分类中“少数类别与相关多数类别混淆”的分析,但原论文研究对象是图像,不能据此认定其对 BCI 有效。迁移假设依赖有意义的类别语义关系,需将视觉编码器替换为 EEG 编码器,并验证语义提示是否适配任务。低信噪比、跨被试差异及小样本可能使类别相关性估计不稳定。一个可证伪的小实验是在固定的被试内 EEG 划分中,仅对训练集构造类别不平衡,比较同一编码器加入与不加入改造后 ReCT 的 Balanced Accuracy 及少数类别混淆情况。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是其将类别相关性纳入长尾识别分析,并提出 ReCT 纠正共享表征偏向头部类别的机制;摘要中的性能增益仍需结合完整训练与评估协议核对。

来源:OpenReview · Representation learning · openreview.net