跳到正文
OpenReview · Representation learning· Thiru Thillai Nadarasar Bahavan; Sachith Seneviratne; Saman Halgamuge·· 26 天前精选AI 评分74

SpHOR:从表示学习视角研究深度神经网络中未知类别识别的开放集识别

SpHOR: A Representation Learning Perspective on Open-set Recognition for Identifying Unknown Classes in Deep Neural Networks

AI 导读

基于摘要分析。本文研究开放集识别(OSR):使深度神经网络将训练时未见类别的输入识别为未知,而非误判为已知类。作者提出 SpHOR,先通过面向 OSR 定制的监督表示学习塑造特征空间,再训练分类器,以区别于骨干网络与分类头联合训练或直接采用通用表示学习目标的方案。 核心机制包括:使用正交标签嵌入促进类别特异性特征的区分;施加球面约束,将表示建模为 von Mises-Fisher 分布的混合;在表示学习阶段直接引入 Mixup 与 Label Smoothing(LS)。作者还提出 Angular Separability(AS)和 Norm Separability(NS),用于量化表示对开放集识别的适用性;具体定义、损失形式及未知类判定规则尚未验证。 作者报告,SpHOR 在多个粗粒度与细粒度开放集基准上取得领先的 AUROC 和 OSCR,并在 Semantic Shift Benchmark 上获得最高 5.1% 的改善。摘要未说明该改善对应的具体指标、对照方法及其为相对百分比还是百分点,不能据此作更细的定量比较。已知类与未知类划分、实验协议、消融及统计信息尚未验证。 平台推测(待验证):该机制可能用于探索 EEG 解码中的未知类别拒识,而非仅提升已知类别分类。原方法依赖已知类监督及特征空间结构;可考虑复用正交标签嵌入与球面表示约束,但需适配 EEG 编码器,并核对 Mixup 的信号合理性及拒识阈值校准。低信噪比、通道差异、小样本及跨被试变化可能使域偏移与未知类别混淆。一个可检验的小实验是在固定被试内划分中留出一类作为未知,在相同编码器和训练数据下比较常规监督训练与 SpHOR 式表示训练的 AUROC、OSCR,并逐项消融上述机制;该实验仅用于检验迁移假设,不代表已有 EEG 有效性证据。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其面向开放集识别定制的表示学习如何改善未知类分离,尤其是球面约束与正交标签嵌入的作用,但其对 EEG 未知类别检测的价值尚未验证。

来源:OpenReview · Representation learning · openreview.net