跳到正文
OpenReview · Representation learning· Zhijie Rao; Jingcai Guo; Xiaocheng Lu; Qihua Zhou; Jie Zhang; Kang Wei; Chenxin Li; Song Guo·· 2023-01-01精选AI 评分71

面向广义零样本学习的属性感知表征校正

Attribute-Aware Representation Rectification for Generalized Zero-Shot Learning

AI 导读

基于摘要分析。本文研究广义零样本学习(GZSL)中预训练视觉特征提取器难以捕获下游领域细粒度特征的问题,提出 Attribute-Aware Representation Rectification((AR)²)框架,旨在学习新特征的同时保留原有有用特征。主要研究对象是视觉识别,而非 EEG 或 BCI。 作者将上述困难归因于预训练特征与下游任务之间的领域偏差,并指出直接微调可能引发灾难性遗忘和过拟合。(AR)² 包含两个组件:Unseen-Aware Distillation(UAD)利用已见类与未见类共享的属性文本先验,通过注意力机制识别并保留对未见类别敏感的视觉特征;Attribute-Guided Learning(AGL)通过属性引导的表征学习,使模型关注有用特征,抑制对已见类噪声的拟合。摘要未提供具体损失形式、属性编码方式或特征提取器结构。 作者报告在多个基准数据集上的实验支持方法有效性,但所给材料未列出数据集名称、划分、对照方法及指标数值,无法判断已见类与未见类性能之间的权衡。实验协议、消融及统计信息尚未验证,复现还需核对属性先验来源、微调范围及训练配置。 平台推测(待验证):若 EEG 零样本任务具备可解释且跨类别共享的语义属性,该机制或可用于缓解特征适配时对已知类别的过拟合。可考虑复用属性条件注意力与蒸馏思路,但需将视觉编码器替换为 EEG 编码器,并验证语义属性是否对应可辨识的神经信号差异;低信噪比、跨被试差异及小样本可能使属性引导失效。一个可证伪的小实验是在固定被试与通道配置下留出部分任务类别,仅使用已见类 EEG 训练,对比普通微调与属性引导适配,并分别评估已见类和未见类表现。该设想依赖可用的类别属性,不能视为已证实的 BCI 收益;相关 EEG 工作尚未检索确认。

阅读价值

值得关注的是利用已见与未见类别共享的属性先验,在特征适配时同时保留未见类敏感信息并抑制噪声拟合;其相对普通微调的收益仍需结合全文协议与消融核对。

来源:OpenReview · Representation learning · openreview.net