跳到正文
OpenReview · State space models· Shu-Lin Xu; Yifan Sun; Faen Zhang; Anqi Xu; Xiu-Shen Wei; Yi Yang·· 2023-01-01精选AI 评分73

结合层级间隔的双曲空间促进从粗粒度标签学习细粒度表征

Hyperbolic Space with Hierarchical Margin Boosts Fine-Grained Learning from Coarse Labels

AI 导读

基于摘要分析。该研究面向视觉表征学习,研究如何仅凭粗粒度标签获得能够区分细粒度类别的嵌入,并关注少样本细粒度识别。作者提出将视觉嵌入映射到双曲空间,再通过 hierarchical cosine margins(层级余弦间隔)增强表征的判别能力。 核心机制是利用双曲空间表达层级关系,并分别为粗粒度与细粒度类别施加相对较大与较小的相似度间隔。相较于在欧氏空间中施加间隔约束,本文的研究重点是将此类约束用于双曲空间,并检验其对粗粒度到细粒度泛化的作用。摘要未说明仅有粗标签时如何构造细粒度约束,因此不能据此推断使用了细粒度标签、伪标签或某种聚类方法;具体损失、映射方式与训练流程尚未验证。 作者报告在五个基准数据集上开展实验,并取得优于竞争方法的结果,称其达到 state-of-the-art;摘要未提供数据集名称、数值指标、少样本设置、划分方式及对照基线,故无法量化收益或判断不同协议下的可比性。实验协议、消融及统计信息尚未验证,复现所需实现与配置也未从材料中确认。 平台推测(待验证):若 EEG 任务具有明确的粗细类别层级,双曲嵌入与层级间隔可能用于研究粗标签监督下的细粒度解码;这是假设,不是本文已验证的 BCI 效果。可复用的是嵌入几何与间隔约束,需改造的是 EEG 编码器及类别层级构造。低信噪比、跨被试差异、通道变化和小样本可能使几何结构更贴近被试或采集条件,而非任务类别。一个可检验的小实验是在具备细标签但训练仅使用粗标签的 EEG 数据上,固定编码器与跨被试划分,比较欧氏嵌入、双曲嵌入及加入层级间隔后的细粒度解码表现,并核对细粒度约束是否符合粗标签监督条件。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是双曲空间与层级余弦间隔如何在仅有粗粒度标签的条件下改善细粒度泛化,但其具体监督方式、对照实验及向 EEG 迁移的有效性尚未验证。

来源:OpenReview · State space models · openreview.net