跳到正文
OpenReview · Representation learning· Michalis Korakakis; Andreas Vlachos; Adrian Weller·· 2024-01-01精选AI 评分76

ALVIN:通过插值进行主动学习

ALVIN: Active Learning Via INterpolation

AI 导读

基于摘要分析。该研究针对主动学习忽略同一类别内群体分布差异、进而使模型依赖伪相关进行预测的问题,提出 Active Learning Via INterpolation(ALVIN),通过表示空间中的类内插值引导标注样本选择。原研究面向自然语言处理任务,并非 EEG 或 BCI 方法。 核心机制是在同一类别中,对代表性不足群体与充分代表群体的样本进行插值,构造位于群体之间的人工锚点,再选择靠近这些锚点的未标注实例进行人工标注。作者认为,这些实例能够让模型接触抵消捷径影响的表示区域;模型可能对其预测具有较高置信度,因此常规主动学习方法容易忽略它们。该方法的关键区别在于利用类内群体结构引导采样,而不只关注模型不确定性。 作者报告,在涵盖 sentiment analysis、natural language inference 和 paraphrase detection 的六个数据集上,ALVIN 的分布内与分布外泛化表现均优于所比较的先进主动学习方法。摘要未提供数据集名称、具体指标、标注预算、划分方式或提升幅度,不能据此判断收益大小;群体识别方式、未标注样本的类别归属处理、插值规则、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 同一任务类别内存在与被试或采集条件相关的群体结构,该机制或可用于探索少数群体标注不足与伪相关问题。可复用的是“表示空间锚点—邻近样本选择”流程,需改造 EEG 表征与群体定义,并核对其对群体信息、类别监督及样本规模的依赖。低信噪比、通道差异和小数据可能使插值区域不具备生理意义。一个可检验的小实验是在固定 EEG 表征与相同标注预算下,对比锚点采样、随机采样和不确定性采样,分别评估跨被试目标群体与整体表现;原领域结果不构成 EEG 有效性的证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 ALVIN 如何通过类内群体间插值发现高置信度但有助于削弱捷径的标注样本,以及该选择机制相对不确定性采样的收益;其 EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net