跳到正文
OpenReview · Representation learning· Siyuan Li; Weiyang Jin; Zedong Wang; Fang Wu; Zicheng Liu; Cheng Tan; Stan Z. Li·· 2024-01-16精选AI 评分76

SemiReward:用于半监督学习的通用奖励模型

SemiReward: A General Reward Model for Semi-supervised Learning

AI 导读

基于摘要分析。该研究针对半监督学习中伪标签质量难以判断、错误伪标签可能强化确认偏差的问题,提出 Semi-supervised Reward 框架 SemiReward:通过预测奖励分数评估并筛选高质量伪标签,作为可插拔模块接入现有半监督学习方法,覆盖分类与回归任务。 其核心思路是以学习式奖励评估替代预定义或手工设计的伪标签选择策略。摘要说明,SemiReward 结合生成器模型与子采样策略进行两阶段在线训练,以缓解确认偏差;但奖励监督的来源、奖励目标的定义、生成器与主模型的交互方式,以及训练和筛选的具体流程尚未验证,不能据此推定具体损失形式或网络结构。 作者报告,在涵盖三种模态的 13 个标准半监督学习基准上,SemiReward 为 Pseudo Label、FlexMatch 和 Free/SoftMatch 带来性能提升与更快收敛。摘要未列出具体数据集、划分、标注比例、指标及提升数值,因此尚不能判断收益在不同任务和数据条件下的一致性,也不能将收敛更快直接等同于总计算成本更低。实验协议、消融及统计信息尚未验证。摘要提供了代码与模型地址,但其可用性及复现条件尚未核验。 平台推测(待验证):该机制可能对应 EEG 半监督解码中伪标签可靠性不足的问题,可考虑复用奖励评估与筛选模块,但需适配 EEG 表征及任务标签。此迁移依赖奖励监督能够反映真实标签质量;低信噪比、跨被试分布变化、通道差异及小规模标注数据都可能使奖励模型延续主模型的错误。一个可检验的小实验是在固定 EEG 跨被试划分、标注预算与主干模型的条件下,对比置信度筛选和 SemiReward,核对筛选后伪标签的正确率、下游解码指标与总训练成本。原研究的多模态结果不构成 EEG/BCI 有效性证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其学习式伪标签筛选能否在不同任务中兼顾性能与收敛效率,尤其需结合全文验证奖励模型的监督来源、额外训练成本及相对置信度筛选的收益。

来源:OpenReview · Representation learning · openreview.net