通过影响函数剖析对比学习中的表征错位
Dissecting Representation Misalignment in Contrastive Learning via Influence Function
基于摘要分析。本文研究多模态对比学习中错位或误标的文本—图像配对如何影响模型表征与预测,提出 Extended Influence Function for Contrastive Loss(ECIF),以无需重新训练的近似方式评估训练数据的影响,并支持错位检测与误预测溯源。 核心机制是针对对比损失扩展经典影响函数。作者指出,经典方法主要面向逐样本损失,而对比学习同时涉及正样本模态间的拉近和负样本模态间的推远,因此数据影响分析需要兼顾两类作用。ECIF 据此给出闭式近似,并进一步构建数据评估、错位检测和误预测溯源算法;具体数学形式、近似条件及计算实现尚未验证。 作者报告,在 CLIP-style embedding 模型的实验中,ECIF 相比传统基线能够更准确地评估数据影响与模型对齐情况,从而提升透明度和可解释性。摘要未提供数据集、模型规模、错位构造方式、基线名称或量化指标,实验协议、消融及统计信息尚未验证,也不能据此认定其已降低幻觉或改善所有下游任务。 平台推测(待验证):若 EEG—文本或 EEG—图像表征学习采用包含正、负配对的对比目标,ECIF 的双向影响分析可能用于排查配对错误及追溯误预测来源。可尝试复用其归因框架,但需适配 EEG 编码器、对比损失与批次负样本构造;低信噪比、跨被试差异、通道差异及小数据可能使高影响样本并不等同于错误样本。一个可证伪的小实验是在固定被试划分与训练协议下,注入已知错配,比较 ECIF 与经典影响函数对错配样本的检出能力,并以删除少量样本后重新训练的结果核对归因近似。已有 EEG 相关工作尚未检索确认。
ECIF 将对比学习中正、负样本的共同影响纳入数据归因,值得用于核查 CLIP-style 模型的配对错位与误预测来源,但其近似精度、计算成本及适用规模仍需全文实验验证。
来源:OpenReview · Representation learning · openreview.net