跳到正文
OpenReview · Representation learning· Jinghao Zhou; Li Dong; Zhe Gan; Lijuan Wang; Furu Wei·· 2023-01-01精选AI 评分75

非对比学习与语言—图像预训练的结合

Non-Contrastive Learning Meets Language-Image Pre-Training

AI 导读

基于摘要分析。本文研究语言—图像预训练中的非对比学习:先考察 nCLIP 的表征学习与零样本识别能力,再提出结合 CLIP 与 nCLIP 的多任务框架 xCLIP,以兼顾跨模态对齐和表征质量。主要研究对象是图像与文本,并非 EEG 或 BCI。 作者将网络采集图文之间关联较松散,视为对比目标数据效率受限、依赖大训练批量的原因。作者报告,在所考察的语言—图像预训练设置下,非对比目标有利于表征学习,但零样本识别表现明显较弱;进一步联合两类目标后,nCLIP 有助于增强 CLIP 特征的语义性。摘要未提供非对比目标的具体形式、联合损失权重、训练规模或批量对照,因而不能据此认定 xCLIP 已解决小批量训练问题。 作者报告,在零样本分类、域外分类、检索、视觉表征学习及文本表征学习等下游评估中,xCLIP 获得一致性能提升。摘要未列出数据集、划分、具体指标、基线配置或增益数值,实验协议、消融及统计信息尚未验证。作者表示将公开代码与预训练模型,但仅凭材料不能确认其当前可用状态。 平台推测(待验证):若 EEG—文本学习具备可用的配对信号与语义描述,可假设联合对比与非对比目标也有助于平衡跨模态识别与 EEG 表征质量;可复用的是目标组合思路,需改造的是 EEG 编码器及配对构造。其有效性依赖配对语义质量与数据规模,低信噪比、跨被试差异、通道不一致及小数据可能使非对比目标学到无关共性。一个可检验的小实验是:固定数据划分、编码器和训练预算,在同一跨被试 EEG—文本任务上比较仅对比、仅非对比及联合目标,同时评估零样本识别与冻结表征的下游表现。该迁移尚非论文已验证结论,相关 EEG 工作尚未检索确认。

阅读价值

值得核对非对比目标对表征学习与零样本识别的不同影响,以及 xCLIP 联合两类目标后能否稳定兼顾两者;摘要报告了多类下游任务收益,但具体协议与增益幅度尚未验证。

来源:OpenReview · Representation learning · openreview.net