跳到正文
OpenReview · State space models· Changqi Wang; Haoyu Xie; Yuhui Yuan; Chong Fu; Xiangyu Yue·· 2023-01-01精选AI 评分72

Space Engage:用于基于对比学习的半监督语义分割的协同空间监督

Space Engage: Collaborative Space Supervision for Contrastive-based Semi-Supervised Semantic Segmentation

AI 导读

基于摘要分析。Space Engage 研究半监督语义分割(S4):利用少量有标签图像与大量无标签图像训练分割模型,核心贡献是在 logit space 与 representation space 中协同获取监督,而不是仅依赖模型 logits 对无标签数据提供语义监督。 机制上,摘要指出既有基于对比学习的 S4 方法在表征空间中将像素级表征聚合到对应原型,但无标签训练的监督主要来自 logit space。本文同时利用两个空间的输出;作者认为,表征空间提供的信息可以降低对错误 logits 语义信息过拟合的风险,并促进两个空间之间的知识交换。此外,方法以表征与原型的相似度作为训练指示,将训练重点向表现较差的表征倾斜,以提高对比学习效率。两个空间如何协同、原型如何构建与更新、相似度如何影响训练,以及具体损失形式,尚未验证。 作者报告,该方法在两个公开基准上的表现可与当时的先进方法竞争;摘要未提供基准名称、标注比例、划分、对照方法或具体指标,不能据此判断提升幅度或认定达到 SOTA。实验协议、消融及统计信息尚未验证,代码与复现条件亦未从现有材料确认。 平台推测(待验证):若 EEG 分类任务能够构建可靠的类别原型,双空间协同监督或可用于检验单一分类输出生成伪标签时的错误强化问题。这一假设不等同于已验证的 BCI 效果:可借鉴的是输出与原型信息协同监督的思想,需将像素级表征及原型机制改造为 EEG 试次级表征,并核对类别监督与无标签数据的使用边界。低信噪比、跨被试分布偏移及小数据可能使原型不稳定,两个空间也可能共同强化同一错误。一个可检验的小实验是在固定标注比例与被试隔离划分下,对比仅 logits 监督和双空间协同监督,检查伪标签正确率及同协议分类指标。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其 logit space 与 representation space 协同生成监督、并利用原型相似度调整对比学习训练重点的机制;摘要支持图像分割场景的研究价值,但尚不支持 EEG/BCI 有效性结论。

来源:OpenReview · State space models · openreview.net