面向在线主动学习的最优样本选择调度
Towards optimal selection schedules for online active learning
基于摘要分析。本文研究在线线性分类中如何从未标注样本流决定是否、何时查询标签并执行训练,或直接丢弃样本,以降低标注受限时的泛化误差或包含查询成本的累计成本。核心贡献是刻画逐步贪心决策对应的样本间隔选择规则,并研究选择阈值随时间变化的调度。 理论设定为可实现情形、Gaussian design,以及数据维度与未标注样本数成比例增长的高维极限。两个目标分别是固定标注预算下的泛化误差,以及错误单位成本为 1、每次查询成本为 Δ 的累计成本。作者报告,逐时最小化目标增量的短视策略对应小间隔或中等间隔选择策略,所选间隔区间随时间收缩;作者进一步在这一策略类别内数值确定使最终目标最小的阈值调度。这不等同于已证明对所有查询策略全局最优。 作者还从累计成本的短视策略出发设计简易查询调度,并在合成数据和真实医学图像数据集上与其他启发式方法比较;摘要未提供数据集名称、具体结果或优势幅度。作者讨论了两层神经网络,并举例说明朴素的基于间隔策略可能不再最优。具体更新规则、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可能对应 EEG 在线分类中标注预算有限的问题,但原研究对象并非 BCI。可复用的是基于分类间隔的查询决策与时间调度,需改造的是 EEG 表征、间隔尺度及标签获取成本定义。低信噪比、标签噪声、跨被试或跨会话漂移可能破坏可实现性与 Gaussian design 假设,小数据也可能使间隔估计不稳定。一个可证伪的小实验是在固定 EEG 表征和线性分类器下,采用同一时间顺序样本流与相同标注预算,对比动态阈值、固定阈值和随机查询的留出集泛化误差,检验调度收益是否成立。已有 EEG 相关工作尚未检索确认。
值得阅读的是将在线标注决策与随时间变化的间隔阈值联系起来,并区分标注预算与累计成本两种目标;其最优性适用范围及向 EEG 在线学习的迁移仍需核对和验证。
来源:arXiv · 学习目标与优化 · arxiv.org