面向无样本保留类别增量学习的前瞻性表征学习
Prospective Representation Learning for Non-Exemplar Class-Incremental Learning
基于摘要分析。本文研究无样本保留类别增量学习(Non-exemplar Class-Incremental Learning,NECIL):在不保留旧类别样本的条件下,同时识别旧类与新类。作者提出 Prospective Representation Learning(PRL),将应对类别冲突的部分工作提前到基础阶段,通过为未来类别预留表征空间,减轻后续增量学习对旧类的影响。 机制上,PRL 在基础阶段压缩当前类别的嵌入分布,为未来类别保留空间;在增量阶段,使新类特征在潜在空间中远离已保存的旧类原型,并在模型更新时将当前嵌入空间与该潜在空间对齐,以促使新类特征聚集到预留区域。其关键区别是提前规划表征空间,而非仅在新任务到来后处理新旧类别冲突。不保存旧样本不等于不保存旧类信息,摘要明确提及保留旧类原型,但未说明其构造与更新方式。 作者报告,PRL 可即插即用地增强现有 NECIL 基线,并在多个基准上优于现有最先进方法。摘要未提供基准名称、类别划分、增量阶段安排、对照方法或具体指标,因此无法判断收益大小及其适用范围;损失形式、实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 分类系统需要持续增加任务类别,且不能保留旧样本,预留嵌入空间与原型约束可能具有方法借鉴价值,但原领域结果不等于 BCI 有效性。可复用的是空间预留和原型排斥机制,需改造 EEG 编码器及原型估计方式;低信噪比、跨被试漂移、通道变化和小数据可能使旧类原型失真,过度压缩也可能损害类别可分性。一个可检验的小实验是在固定被试与会话、按类别逐步加入的 EEG 协议中,对比同一 NECIL 基线加入 PRL 前后的新旧类 Accuracy,并分别移除空间预留与对齐机制,检验收益来源。已有 EEG 相关工作尚未检索确认。
值得核对的是 PRL 如何通过预留特征空间与旧类原型约束缓解无旧样本条件下的类别冲突,以及其即插即用收益是否在不同增量协议下成立;摘要尚不足以验证这些结果。
来源:OpenReview · Representation learning · openreview.net