用于少样本类增量学习的基于协方差的空间正则化
Covariance-based Space Regularization for Few-shot Class Incremental Learning
基于摘要分析。本文研究 Few-shot Class Incremental Learning(FSCIL,少样本类增量学习):模型在增量阶段仅有少量标注样本,需要学习新类别并保留基类知识。作者提出协方差约束与特征空间扰动,以缓解新类过拟合、基类灾难性遗忘,以及新旧类别或新类别之间的特征空间混淆。 核心机制包括两部分:一是通过协方差约束损失,促使各类别分布具有相同的协方差矩阵,直接约束类分布的空间跨度;二是扰动少样本训练数据的特征,使其远离其他类别的加权分布,并将扰动后的样本作为新类数据训练分类器,以建立更明确的新旧类别边界。相较于摘要所述的原型方法,该方法强调分布形状约束和边界塑造,而不只是原型表征。具体损失形式、协方差估计方式、类别权重、扰动生成与训练流程尚未验证。 作者报告,该方法可集成到现有 FSCIL 方法中,并在三个基准上验证有效性、达到新的 SOTA。摘要未提供基准名称、数据划分、各增量阶段样本量、对照方法或指标数值,因此不能据此比较增益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其机制可能对应 EEG 少样本新增任务类别时的特征重叠问题,但原论文研究对象是通用 FSCIL,并非已验证的 BCI 方法。迁移假设依赖带类别标注的特征表示、基类分布估计及明确的类增量协议;可复用协方差约束与扰动模块,需适配 EEG 编码器和特征尺度。低信噪比、小样本及被试或通道差异可能使协方差估计不稳定,共享协方差假设也可能抹去有判别力的类间差异。一个可检验的小实验是在固定被试内划分与编码器的 EEG 类增量任务中,对比基线、仅协方差约束、仅扰动及两者联合,分别观察基类保持与新类识别表现。已有 EEG 相关工作尚未检索确认。
值得核对其共享协方差约束与特征空间扰动能否改善少样本新增类别的边界划分,但摘要中的性能结论及其对 EEG 类增量学习的适用性尚未验证。
来源:OpenReview · State space models · openreview.net