跳到正文
OpenReview · Representation learning· Linlan Huang; Xusheng Cao; Haori Lu; Xialei Liu·· 2024-01-01精选AI 评分73

基于 CLIP 的类增量学习:自适应表征调整与参数融合

Class-Incremental Learning with CLIP: Adaptive Representation Adjustment and Parameter Fusion

AI 导读

基于摘要分析。本文研究视觉—语言预训练模型 CLIP 的类增量学习:模型需要持续学习新增类别,同时保留对旧类别的识别能力。作者提出 Adaptive Representation Adjustment and Parameter Fusion(RAPF),通过训练期间的表征调整与训练后的参数融合,缓解下游适配带来的遗忘。 核心机制是区分不同旧类别受到新增类别影响的程度,而非假定遗忘在旧类别间均匀发生。在新数据训练期间,RAPF 利用文本特征衡量新类别对旧类别的影响,并据此调整表征;训练后再采用分解式参数融合,进一步缓解 adapter 模块微调过程中的遗忘。摘要未说明影响度量、表征调整和参数分解融合的具体数学形式。 作者报告,该方法在若干常规基准上达到当前最佳结果;但摘要未列出数据集、类别增量顺序、训练数据可用范围、对照方法或具体指标,因此尚不能核对优势幅度及适用条件。摘要提供了代码地址,但实现与复现条件尚未核验,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移机制是按类别差异化处理遗忘,而非将 CLIP 的视觉识别结果直接视为 BCI 证据。若用于 EEG 类增量学习,需要以 EEG 编码器替代视觉输入路径,并检验任务文本描述是否能提供可靠的类别关系;可考察表征调整和参数融合模块,但文本—EEG 对齐方式需要重新设计。低信噪比、跨被试差异及小样本可能使类别影响估计不稳定,文本相似性也未必对应 EEG 可分性。一个可检验的小实验是在固定被试内数据划分和类别新增顺序下,对比普通 adapter 微调、仅表征调整、仅参数融合及两者结合,分别评估旧类保留与新类学习效果。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其利用文本特征刻画新类别对旧类别的差异化影响,并结合训练后参数融合缓解遗忘的思路;具体增益与对 EEG 类增量学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net