跳到正文
OpenReview · Representation learning· Zicheng Pan; Xiaohan Yu; Miaohua Zhang; Weichuan Zhang; Yongsheng Gao·· 2024-05-16精选AI 评分75

DyCR:用于少样本类增量学习的动态聚类与恢复网络

DyCR: A Dynamic Clustering and Recovering Network for Few-Shot Class-Incremental Learning

AI 导读

DyCR 研究少样本类增量学习(FSCIL)中学习新类与保持旧类知识的矛盾,提出在增量阶段仍可训练的动态网络,并通过特征正交分解和旧类特征恢复缓解灾难性遗忘。基于摘要分析,尚未取得论文全文。 机制上,作者将特征嵌入分为 context 信息与 category 信息:保存 context 部分,用于后续增量阶段恢复旧类特征;利用 category 部分优化嵌入空间,使不同类样本相互分离、同类样本更加紧凑。相较于增量阶段固定网络参数的方法,DyCR 允许继续学习新特征,旨在改善对新类数据的适应能力。摘要未给出正交分解的具体实现、恢复过程及损失形式。 作者报告,DyCR 在四个基准数据集上优于既有方法,并称保存 context 信息所需的数据量远小于保存原始样本。摘要未列出数据集名称、每类样本数、增量阶段划分、指标、具体分数及存储核算方式,因此尚不能量化其优势或判断不同协议下的可比性。实验协议、消融及统计信息尚未验证;作者提供了代码地址,但实现与复现条件尚未核对。 平台推测(待验证):若 EEG 应用确实需要以少量标注样本逐步加入新类别,该机制可能用于探索新类适应与旧类保持,而不能直接等同于跨被试或跨会话适应。可复用的候选模块是特征分解、紧凑记忆与旧类特征恢复,EEG 编码器及 context/category 的含义需重新验证。低信噪比、被试差异和通道变化可能使两类信息难以分离,小样本下恢复特征也可能失真。可在固定被试与通道条件下开展小规模类增量实验,以相同存储预算比较冻结编码器、直接微调和 DyCR 式恢复方案,分别检查旧类保持与新类性能;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是 DyCR 如何通过正交分解与旧类特征恢复,在增量阶段保持网络可训练的同时兼顾新类适应和旧类保持;其存储优势与性能收益仍需结合全文协议验证。

来源:OpenReview · Representation learning · openreview.net