几何先验引导的长尾分类特征表示学习
Geometric Prior Guided Feature Representation Learning for Long-Tailed Classification
基于摘要分析。本文研究通用长尾分类中尾部类别样本不足、观测分布难以代表真实分布的问题,提出利用样本充足的头部类别特征分布几何,引导尾部类别的特征不确定性表示,以改善尾部类别的泛化能力;原研究并非 EEG 或 BCI 方法。 核心机制是先定义特征分布的几何及其相似性度量,再依据作者发现的四种分布几何关系现象,利用头部类别的几何信息扰动尾部特征,使扰动后的特征尽可能覆盖尾部类别的潜在分布。作者另设计三阶段训练方案支持特征不确定性建模。摘要未给出四种现象的具体内容、几何度量公式、扰动形式、损失函数及各阶段训练细节,尚不能判断几何信息可迁移的充分条件。 作者报告,在 CIFAR-10/100-LT、ImageNet-LT 和 iNaturalist2018 的长尾分类实验中,该方法在多数指标上优于其他同类方法。摘要未列出具体分数、指标名称、类别不平衡设置及对照方法,因此不能量化收益或直接比较不同数据集表现;实验协议、消融及统计信息尚未验证。摘要表示代码将公开,但材料不足以确认其当前可用性。 平台推测(待验证):该机制依赖样本充足的头部类别和可迁移的特征分布几何,或可用于探索 EEG 类别不平衡下的尾部特征增强。可复用的是几何估计与特征扰动思路,需改造 EEG 特征编码及几何估计方式;低信噪比、被试或通道差异、小样本导致的几何估计不稳,以及类别间几何不相容,都可能使扰动偏离有效信号。一个可检验的小实验是在固定被试内划分、仅用训练集估计几何的前提下,对比同一编码器配合类别重加权、普通特征扰动与几何引导扰动,检查尾部类别召回率及 Balanced Accuracy 是否改善。该迁移仅是假设,已有 EEG 相关工作尚未检索确认。
值得核对其如何利用头部类别的特征分布几何为尾部类别构造扰动,以及三阶段训练对这一过程的作用;其在 EEG 类别不平衡问题上的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net