PatchBELL:通过对已学习表征进行统计建模实现增量学习
PatchBELL: Incremental Learning via Statistical Modeling of Learned Representations
基于摘要分析。PatchBELL 研究图像类别增量学习(CIL)中的灾难性遗忘问题,在冻结编码器的表征空间内对各类别的 patch 级嵌入分布建模,以固定大小的类别统计量支持新类别加入,而非更新编码器参数。 核心机制是利用 patch 群体的统计结构。作者报告,这些表征呈近似高斯结构,因而构建类别条件似然模型;相较于整幅图像嵌入,patch 级建模提供数量级更多的样本,用于有限数据下的类别估计。针对各类别独立建模后似然不可直接比较、部分 patch 缺乏判别信息的问题,PatchBELL 采用可比较的似然与置信度加权的 patch 证据进行图像分类,并利用同一置信度生成空间解释。具体似然校准方法、置信度定义及协方差估计方式尚未验证。 作者称,新类别可单遍加入,无需回放或修改已存类别模型,并据此主张该设计可消除遗忘、对增量任务组成保持稳健;这一主张仍需结合旧类性能及类别竞争方式核对。方法不依赖参数适配或语言监督,可用于视觉语言编码器与纯视觉编码器。作者报告,在标准 CIL 基准及多个基础模型上达到最先进性能,并显著降低增量更新成本;摘要未提供基准名称、划分、指标、数值或对照细节,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移思路是冻结表征后,以局部片段统计量支持 EEG 新类别识别,而非直接迁移图像方法。假设 EEG 时间片段或时频 patch 的类别条件分布具有稳定判别信息,可复用统计存储与证据聚合框架,但需改造片段定义、编码器及分布估计。低信噪比、片段相关性、通道变化和跨被试漂移可能使样本数量增加不等于独立信息增加。可先固定同一 EEG 编码器,在被试内类别增量协议下比较片段统计与整段表征分类,并记录各阶段旧类表现及更新成本。已有相关 EEG 工作尚未检索确认。
值得核对其类别似然可比化与置信度加权机制,尤其是冻结编码器、仅维护固定大小类别统计量时,如何兼顾增量更新成本与分类性能;具体效果仍需全文实验支持。
来源:OpenReview · Representation learning · openreview.net