跳到正文
arXiv · 泛化与分布偏移· Hong Zheng; Fei Teng·· 1 天前精选AI 评分76

理解标签噪声下的数据增强

Understanding Data Augmentation under Label Noise

AI 导读

基于摘要分析。本文研究标签噪声存在时,数据增强(DA)何时改善、何时损害学习与泛化,并试图为 i.i.d. 学习和域泛化场景提供统一的理论解释。主要贡献是给出区分有益与有害情形的充分条件,并通过学习与泛化界分析 DA 对不确定性、模型稳定性及泛化的影响。 作者报告,DA 在其分析框架下可能充当“不确定性放大器”,降低模型稳定性与泛化性能;这一结论应结合相应理论条件理解,不能据此断言所有增强方式在标签噪声下均有害。作者称分析不依赖特定 DA 技术,且仅需较温和的假设,但摘要未给出假设、噪声模型、稳定性定义、界的具体形式或条件适用范围,尚不能判断理论对实际增强策略的约束程度。实验协议、消融及统计信息尚未验证。 平台推测(待验证):该理论可能帮助分析 EEG 分类中标签不确定性与数据增强的交互,尤其是跨被试域泛化时,增强是否在保留任务信息的同时放大标注误差。可复用的是有益/有害条件的分析思路;需结合 EEG 的时间、频谱和通道结构重新核对增强的标签保持假设,以及噪声模型与跨被试分布差异的匹配程度。低信噪比、小样本和通道差异可能使标签噪声与信号扰动难以区分。 一个可检验的小实验是:在固定的跨被试 EEG 划分中,仅对训练标签施加受控噪声,对比不增强与预先指定增强策略,并在独立、固定标签的测试集上观察性能及重复训练的波动,检查增强收益是否随噪声水平发生转变。该实验只是迁移假设的初步检验,不能替代理论条件核对;相关 EEG 工作尚未检索确认。

阅读价值

值得阅读其区分标签噪声下数据增强有益与有害情形的充分条件,但条件的适用范围及对 EEG 域泛化的解释力尚未验证。

来源:arXiv · 泛化与分布偏移 · arxiv.org