跳到正文
OpenReview · Representation learning· Kai Jiang·· 2025-08-18精选AI 评分76

面向类别增量学习的循环网络扩展

Recurrent Network Expansion for Class Incremental Learning

AI 导读

基于摘要分析。本文研究视觉类别增量学习(CIL)中的网络扩展(NE),提出 recurrent NE(RNE):通过连接不同任务的专家模块,让新任务专家利用既有专家传递的特征进行调整,旨在缓解特征扩散、参数增长、特征混淆与分类器偏置。 机制上,先前任务专家通过共享模块顺序传递特征,新任务专家基于接收的特征进行调整,而非重新提取这些特征;作者认为这有助于聚焦关键区域并避免特征扩散。为控制模型规模,RNE 用轻量专家替换额外任务专家;此外,利用解耦分类器缓解特征混淆,并通过伪特征生成校正分类器偏置。摘要未说明共享模块结构、轻量化方式、伪特征生成过程或具体损失。 作者报告,在 CIFAR-100、ImageNet-100、Food-101 和 ImageNet-1K 的常规及挑战性 CIL 设置中,RNE 达到 SOTA 表现,并称压缩后参数量显著减少、性能几乎不变。摘要未给出具体指标、数值、任务划分及对照基线,因此这些结论尚不能用于量化比较;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,任务专家间的特征复用可能有助于 EEG 新类别持续学习,但原论文依赖视觉类别增量任务,不能据此推断跨被试或跨会话有效。可考虑复用专家连接、解耦分类与偏置校正思路,EEG 时空特征提取及增量任务定义则需改造。低信噪比、通道变化和小样本可能使顺序特征传递累积误差,伪特征也可能偏离真实分布。一个可证伪的小实验是在固定被试、固定通道的 EEG 类别增量划分下,控制参数与回放预算,对比独立专家扩展和 RNE 式连接,检验旧类遗忘与新类识别表现;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对的是任务专家间的顺序特征传递能否缓解网络扩展中的特征混淆,以及轻量专家替换带来的性能—参数权衡;摘要报告了视觉任务结果,但其 EEG/BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net