几何先验引导的长尾分类特征表示学习
Geometric Prior Guided Feature Representation Learning for Long-Tailed Classification
基于摘要分析。本文研究长尾分类中尾部类别样本不足、观测特征难以代表真实分布的问题,提出利用样本充足的头部类别特征分布几何,为尾部类别提供分布先验,以改善模型泛化;原研究对象是通用长尾分类,而非 EEG 或 BCI。 方法上,作者先定义特征分布的几何及几何间相似性度量,并报告发现四种有关不同特征分布几何关系的现象。在此基础上提出 feature uncertainty representation,借助头部类别的特征分布几何扰动尾部特征,目标是让扰动后的特征尽可能覆盖尾部类别的潜在分布,并设计三阶段训练方案支持该机制。摘要未说明具体几何定义、四种现象的内容、扰动形式、损失函数及各训练阶段的细节,不能将其直接等同于黎曼几何方法。 作者报告,在 CIFAR-10/100-LT、ImageNet-LT 和 iNaturalist2018 的长尾分类实验中,该方法在多数指标上优于同类方法;摘要未提供具体数值、指标名称、对照方法及划分设置,实验协议、消融及统计信息尚未验证。复现前需核对头部几何估计的稳定性、头尾类别间几何关系的适用条件,以及三阶段训练对最终收益的影响。 平台推测(待验证):若类别不均衡的 EEG 分类也具有可共享的类内特征几何,这类先验可能缓解少数类别分布估计不足。该假设依赖有标签的头尾类别、足够稳定的头部特征及可迁移的几何关系;可复用的是特征空间扰动思路,几何估计与扰动强度则需适配 EEG。低信噪比、被试与通道差异可能使头部几何主要反映非任务因素,小数据还可能使几何估计失真。一个可检验的小实验是在固定被试内划分的 EEG 分类任务中,仅下采样训练集构造类别不均衡,比较同一编码器下的类别重加权、普通特征扰动与几何引导扰动,并分别报告 Balanced Accuracy 和各类别召回率。已有 EEG 相关工作尚未检索确认。
值得核对其利用头部类别特征几何指导尾部类别扰动的机制及三阶段训练方案,但其收益是否适用于类别不均衡的 EEG 分类尚未验证。
来源:OpenReview · Representation learning · openreview.net