面向半监督学习的样本感知阈值学习
Learning sample-aware threshold for semi-supervised learning
基于摘要分析。本文研究半监督学习中伪标签置信度阈值依赖人工设定、难以适应不同样本的问题,提出 Meta-Threshold,通过元学习为每个未标注样本动态学习置信度阈值。原论文的主要研究对象是通用半监督学习,而非 EEG 或 BCI。 核心机制是使用额外网络预测实例级阈值,将有限的标注数据作为元数据,把分类器与元网络的训练表述为嵌套优化问题,并通过双层优化求解。相较于预先指定阈值调整函数,该方法尝试让数据决定伪标签的采纳标准;作者称除学习率外不需要额外超参数,其具体适用范围仍需正文核对。 作者通过代理函数替换伪标签筛选中的指示函数,并报告了训练过程的理论收敛性分析,同时讨论训练复杂度及降低时间开销的策略。作者报告,该方法在常规及类别不平衡的半监督学习任务上有效;摘要未提供数据集、标注比例、对照方法或具体指标,实验协议、消融及统计信息尚未验证。 平台推测(待验证):该机制可能用于标注稀缺的 EEG 分类,针对不同样本的置信度可靠性调整伪标签筛选。可复用的是阈值元网络和双层优化流程,需改造的是 EEG 编码器、置信度输入及元数据划分。其依赖少量有代表性的标注监督;低信噪比、跨被试分布偏移、通道差异或极少标注可能使元网络过拟合,且高置信度未必对应正确预测。一个可证伪的小实验是在固定 Cross-subject 划分、标注预算与分类器条件下,比较 Meta-Threshold 与固定阈值方法的 Balanced Accuracy、伪标签正确率和训练耗时,检验收益能否跨被试重复。相关 EEG 工作尚未检索确认。
值得核对 Meta-Threshold 如何以有限标注数据学习逐样本伪标签阈值,以及双层优化的计算代价;其对 EEG 半监督学习的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net