跳到正文
OpenReview · Representation learning· Tianyue Cao; Yongxin Wang; Yifan Xing; Tianjun Xiao; Tong He; Zheng Zhang; Hao Zhou; Joseph Tighe·· 2022-10-23精选AI 评分73

Pss:面向开放世界视觉表征学习的渐进式样本选择

Pss: Progressive sample selection for open-world visual representation learning

AI 导读

基于摘要分析。本文研究开放世界视觉表征学习:在训练时既无目标新类别的先验知识,也无法访问这些类别图像的条件下,学习能够泛化至未见类别的表征。作者提出渐进式样本选择方法,通过筛选未标注样本并生成聚类伪标签,迭代改善特征泛化能力。 核心机制是在每轮迭代中,选择同质性较高、且在特征空间中与当前已知类别距离较远的未标注样本,再对所选样本聚类,利用生成的伪标签更新表征。这里需要区分训练阶段参与筛选的未标注类别与评估阶段真正未见的目标类别;两者的具体划分、同质性与距离的定义、筛选阈值及训练目标尚未验证。作者认为现有方法依赖的某些假设在该设定下不成立,但摘要未展开这些假设的具体内容。 作者报告,在自然物种图像检索和人脸验证基准上,该方法持续优于所比较的开放世界半监督学习与新类别发现方法。摘要未提供具体数据集名称、划分、指标及数值,因此无法核对优势幅度与适用边界。作者声明已发布训练和推理代码,但当前材料未提供代码地址;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 未标注数据在特征空间中存在与任务类别对应的稳定簇,可尝试复用“筛选—聚类—伪标签更新”流程,以研究未见任务类别的表征泛化;需要将视觉编码器与距离度量改造为适合 EEG 时序及通道结构的模块。风险是低信噪比、被试差异和通道配置可能主导聚类,使“远离已知类别”的样本实际代表伪迹或域差异,小数据条件也可能使伪标签不稳定。可检验的小实验是在严格隔离目标类别的 EEG 划分上,对照不筛选的聚类伪标签方法,检查渐进筛选能否同时改善伪标签一致性与未见类别评估表现。该迁移仅是假设,已有 EEG 相关工作尚未检索确认。

阅读价值

该研究值得关注之处是通过渐进式样本筛选与聚类伪标签改善未见类别的表征泛化,但其筛选机制及对 EEG 的可迁移性仍需验证。

来源:OpenReview · Representation learning · openreview.net