跳到正文
OpenReview · Representation learning· Hengtao Li; Yang Liu; Muzhi Zhu; Hao Chen; Weian Mao; Li Ke; Longtao Huang; Hui Xue'; Chunhua Shen·· 2024-09-26精选AI 评分74

弥合语义对应与鲁棒视觉表征之间的差距

Bridging the Gap between Semantic Correspondence and Robust Visual Representation

AI 导读

基于摘要分析。本文研究同一类别不同实例之间的跨图像语义对应,即定位不同图像中语义相同部位的像素关系,提出 ViTSC 框架以利用自监督 Vision Transformer 的视觉表征,同时兼顾高层语义匹配与低层精确定位。 作者认为,已有匹配方法对自监督预训练特征的适配不足,复杂匹配模块可能扰动原有表征,而高分辨率低层信息不足也会限制定位。ViTSC 包含三个关键组件:cross-perception 模块,在尽量保留原始表征的同时对齐不同图像中相同部位的语义特征;辅助损失,用于消除语义相似对象带来的歧义;低层相关性引导的上采样器,用于生成高分辨率流场,实现精确定位。具体模块结构、损失形式及预训练骨干配置尚未验证。 作者报告,ViTSC 在 SPair-71k、PF-PASCAL 和 PF-WILLOW 三个标准基准上的语义对应表现均超过此前最先进方法。摘要未提供具体指标、数值、数据划分及对照配置,因此尚不能判断提升幅度及各组件的独立贡献;实验协议、消融及统计信息尚未验证。 该研究的主要对象是视觉语义对应,并非 EEG 解码或 BCI。平台推测(待验证):其保留预训练表征并另行学习对应关系的思路,可能启发具有明确空间对应关系的 EEG 表征适配,但图像像素与 EEG 通道、时间片之间并无直接等价关系。迁移需重新定义对应关系和监督信号,并改造低层相关性与上采样模块;低信噪比、跨被试差异、通道布局变化及小数据可能使对应学习失效。可检验的小实验是假设跨被试存在可对齐表征,在固定 EEG 预训练骨干和相同数据划分下,对比直接适配与保留原表征的对齐模块,检查其是否稳定改善跨被试解码。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 ViTSC 如何在尽量保留自监督预训练表征的同时完成跨图像语义对齐,并利用低层相关性恢复定位精度;其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net