面向少样本类增量学习的演化字典表示
Evolving Dictionary Representation for Few-shot Class-incremental Learning
基于摘要分析。本文研究视觉少样本类增量学习(FSCIL):基础阶段拥有已标注类别数据,后续增量阶段仅有少量新类别标注样本,需要学习新类别并尽量保留旧类别知识。作者提出结合字典学习与视觉表示学习的深度字典学习方法,以构建适合区分不同类别的表示空间。 核心机制是分阶段更新:基础阶段同时优化字典与特征提取骨干,增量阶段仅微调字典,而不更新整个模型,以减轻对基础类别的遗忘。此外,作者在基础阶段训练中引入多个伪类别,意图在字典投影空间中为未来新概念预留表示空间。伪类别如何构造、字典表示如何计算及具体优化目标,摘要未提供。 作者报告,在 CIFAR100、miniImageNet 和 CUB200 的 FSCIL 实验中,该方法相较其他 SOTA 方法表现有效。摘要未给出具体指标、数值、基础与增量类别划分、每类样本数或对照方法,因此无法量化收益,也不能据此比较不同实验协议。实验协议、消融及统计信息尚未验证;复现需进一步核对字典更新约束、伪类别生成方式及旧类知识保留的评估方法。 平台推测(待验证):若 EEG 任务确实存在逐步加入新类别、且新类别仅有少量标注数据的情形,可假设复用“固定骨干、仅调整字典”的增量更新机制,并将视觉骨干替换为 EEG 特征提取器。但其前提是基础表示已包含新类别所需信息;EEG 的低信噪比、跨被试差异、通道配置变化及小样本条件都可能使固定表示失效。可在固定被试与通道配置下,设置基础类别及后续少样本新增类别,对照仅更新字典与全模型微调,分别评估新类识别和旧类性能保持,并消融伪类别训练。该假设不代表已证实的 BCI 效果,相关 EEG 工作尚未检索确认。
值得核对其“基础阶段联合学习、增量阶段仅更新字典”及伪类别预留表示空间的机制,是否能在适应新类别时减少旧类别遗忘;摘要尚不足以判断具体收益及其对 EEG 的适用性。
来源:OpenReview · Representation learning · openreview.net