结合启发式团重缩放的归纳式状态重标记对抗主动学习
Inductive State-Relabeling Adversarial Active Learning With Heuristic Clique Rescaling
基于摘要分析。本文研究通用主动学习(AL)中的标注不足、不确定性估计不可靠及所选样本内部多样性不足问题,提出归纳式状态重标记对抗主动学习模型 ISRA,以改善样本选择与标注效率;原研究并非 EEG 或 BCI 方法。 ISRA 包含统一表征生成器、归纳式状态重标记判别器和启发式团重缩放模块。生成器通过对比学习利用未标注样本开展自监督训练,并利用互信息改善主动学习所用的表征;判别器借助归纳式不确定性指标,从已标注数据学习状态分数,再按不同重要性对未标注数据进行状态重标记。此处的重标记服务于主动学习样本判别,不能据摘要等同于生成任务类别伪标签。团重缩放模块度量候选样本的内部多样性,并反复调整其权重,以降低批量选择中的冗余。具体损失、状态定义、团构建及重缩放公式尚未验证。 作者报告,在八个数据集及两种不平衡场景中,ISRA 优于此前的先进 AL 方法;作者还报告,将其扩展到跨模态主动学习的 image captioning 任务后取得了更优表现。摘要未提供数据集名称、标注预算、划分、对照方法及具体指标,实验协议、消融及统计信息尚未验证,不能据此量化优势。 平台推测(待验证):若 EEG 任务具有可供自监督学习的未标注片段、有限标注预算及可定义的样本相似性,表征学习与去冗余选择机制可能用于缓解重复片段占用标注预算的问题。可复用的是样本选择框架;需改造 EEG 编码器、增强策略及候选样本相似性定义。低信噪比、伪迹、跨被试或通道差异可能使不确定性偏向异常片段,小数据也可能削弱状态分数的可靠性。一个可检验的小实验是在固定被试内划分与相同标注预算下,对比随机选择、不确定性选择和加入团重缩放的选择,观察分类 Accuracy 及所选片段冗余度;须先固定测试集,避免主动选择接触测试数据。已有 EEG 相关工作尚未检索确认。
值得核对 ISRA 如何联合利用未标注数据表征、归纳式不确定性与候选样本内部多样性来减少标注冗余,但其对 EEG 标注效率的价值尚未验证。
来源:OpenReview · State space models · openreview.net