跳到正文
OpenReview · Representation learning· Yunbin Tu; Liang Li; Li Su; Chenggang Yan; Qingming Huang·· 2024-01-01精选AI 评分75

用于变化描述的抗干扰表征学习与跨模态对比正则化

Distractors-Immune Representation Learning with Cross-modal Contrastive Regularization for Change Captioning

AI 导读

基于摘要分析。该研究面向 Change Captioning:描述两幅相似图像之间的语义变化,同时排除光照、视角变化等干扰。作者提出抗干扰表征学习网络,先稳定成对图像的表征,再提取差异特征生成文字,并通过跨模态对比正则化增强差异特征与生成词语的对齐。 核心机制是以自监督方式增强两幅图像表征中对应通道的相关性,并降低不同通道之间的相关性。这里的通道指图像表征通道,并非 EEG 电极通道。其动机是避免直接作差将位置、尺度的伪变化及遮挡造成的特征扰动误当成语义变化。随后,模型对稳定表征进行交互以提取差异特征;跨模态正则化则最大化经注意力选择的差异特征与生成词语之间的对比对齐。具体损失公式、正负样本构造和训练流程尚未验证。 作者报告,在四个公开数据集上的实验优于所比较的现有先进方法;摘要未提供数据集名称、划分协议、评价指标或具体数值,因此无法判断提升幅度与适用边界。摘要给出代码地址,但实现完整性与可复现性尚未核查,实验协议、消融及统计信息尚未验证。 平台推测(待验证):潜在可迁移部分是对成对表征施加相关性与去相关约束,而非将视觉变化描述直接视为 BCI 方法。假设 EEG 中能够构造成对且任务语义不变的观测,该约束可能用于抑制非任务扰动;跨模态部分则依赖可靠的信号—文本对应监督,不能直接套用。需改造 EEG 编码器及配对策略,且低信噪比、跨被试差异、通道配置变化和小样本可能使对齐错误地压制任务信息。一个可检验的小实验是在固定 EEG 任务、编码器和跨会话划分下,仅加入该相关性约束,与不加约束的同一基线比较,并检查任务判别能力是否受损。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其通过表征通道相关性约束抑制视觉干扰、再以跨模态对比正则化改善描述对齐的机制,但摘要尚不足以确认各模块的独立贡献及其对 EEG 的迁移价值。

来源:OpenReview · Representation learning · openreview.net