跳到正文
OpenReview · Representation learning· Can Peng; Piotr Koniusz; Kaiyu Guo; Brian C. Lovell; Peyman Moghadam·· 2023-01-01精选AI 评分73

面向域泛化类别增量学习的多元原型表示

Multivariate Prototype Representation for Domain-Generalized Incremental Learning

AI 导读

基于摘要分析。本文研究域泛化类别增量学习(Domain-Generalized Class-Incremental Learning,DGCIL):模型持续学习新类别时,既要减轻旧类的灾难性遗忘,又要应对训练与测试之间的域偏移,在未见域中完成对象分类。核心贡献是以多元正态分布表示类别原型,并随特征空间变化更新旧类分布,用于不保存旧类样本的增量学习。 方法上,作者通过损失设计维持分类边界并抑制各类别的域特定信息,结合知识蒸馏与旧类原型漂移估计。旧类原型不仅包含均值,也包含协方差;增量训练中二者持续适配模型特征的变化,再借助 Cholesky 分解从更新后的分布中采样旧类伪特征。相较仅依赖平均原型的采样策略,该机制旨在保留更丰富的类内语义变化。具体损失形式、漂移估计流程及协方差估计方式尚未验证。 作者报告在多个基准上的实验支持其主张,但摘要未给出基准名称、域与类别划分、对照方法或量化指标,实验协议、消融及统计信息尚未验证,因此无法据此判断收益幅度及适用边界。 平台推测(待验证):该机制可能对应 EEG 跨被试类别增量学习中“旧类无法保留原始数据、特征随训练漂移”的瓶颈,可考虑复用分布原型、漂移校正与伪特征生成模块;EEG 编码器、域定义及类别监督仍需适配。其有效性依赖每类特征足以估计均值与协方差,且分布近似合理;低信噪比、小样本、被试差异及通道配置变化可能导致协方差估计不稳定或伪特征失真。一个可检验的小实验是在固定通道的 MI 数据上明确划分类别增量阶段,并留出未见被试,在相同不存旧样本协议下比较均值原型与均值加协方差原型的旧类保持和新类识别表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是以动态更新的均值与协方差刻画旧类原型漂移、在不保存旧类样本的条件下生成伪特征的机制,但其对 EEG 跨被试类别增量学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net