BBW:用于在少数类样本极少的极度不平衡数据集上训练深度神经网络的批次平衡包装器
BBW: a batch balance wrapper for training deep neural networks on extremely imbalanced datasets with few minority samples
基于摘要分析。本文研究少数类样本极少、类别极度不平衡条件下的深度神经网络训练,提出 Batch Balance Wrapper(BBW),通过网络前端附加层与按类别采样的 Batch Balance(BB)算法,使通用 DNN 能够在平衡批次上训练。 作者指出,多数类下采样或少数类上采样虽然在部分场景有效,也可能导致训练不稳定和过拟合。BBW 在 DNN 起始位置增加两个网络层,作者称其用于抑制少数类样本过拟合并增强少数类样本分布的表达能力;BB 则按类别采样,确保训练过程中每个批次保持类别平衡。附加层的具体运算、采样与重复利用样本的方式、损失函数及训练流程尚未验证,不能仅凭摘要判断其如何实现上述作用。 作者报告在三个少数类样本极少的极度不平衡数据集上进行了测试,其中最大不平衡比例达到 1167:1,仅有 16 个正类样本;相较已有方法,BBW 获得更好的分类表现,但摘要未给出数据集名称、划分方式、具体指标或基线。作者还报告,BBW 包装后的 DNN 相对未包装 DNN 快 16.39 倍,并称无需数据预处理或额外超参数调优;该速度结果对应的计时范围、硬件、训练预算与性能匹配条件尚未验证。 摘要将 EEG 信号分类和医学图像分类列为应用场景,但不足以确认具体 EEG 任务、被试数量及被试内、跨被试或跨会话协议。平台推测(待验证):其机制可能适用于类别稀缺的 EEG 分类,但平衡采样未必能增加少数类的独立信息,低信噪比、被试差异及小样本重复采样仍可能导致过拟合。可在固定且按被试隔离的划分下,对比原始 DNN、仅 BB 采样和完整 BBW,记录 Balanced Accuracy、少数类召回率及相同计时口径下的训练成本,以检验包装层的独立贡献。相关 EEG 工作尚未检索确认,完整实验协议、消融及统计信息尚未验证。
BBW 将网络前端包装与按类别平衡批次采样结合,值得核对其在少数类样本极少时的过拟合控制机制及分类收益,但摘要不足以确认 EEG 评估协议与加速口径。
来源:OpenReview · EEG · openreview.net