超越 mini-batch、成对样本与样本级别的嵌入空间插值
Embedding Space Interpolation Beyond Mini-Batch, Beyond Pairs and Beyond Examples
基于摘要分析。本文研究 Mixup 数据增强中插值样本数量及参与插值的样本范围受限的问题,提出 MultiMix:在嵌入空间对整个 mini-batch 进行插值,并生成数量不受 mini-batch 大小限制的合成样本;进一步提出 Dense MultiMix,将插值与损失计算扩展到局部位置。 核心机制:传统成对插值主要沿两个样本之间的线段生成样本,MultiMix 则在整个 mini-batch 的凸包内采样。对于序列数据,Dense MultiMix 在各空间位置密集插值特征与目标标签,并施加局部损失。针对缺乏密集标签的情况,方法继承样本级标签,并以注意力作为置信度,对插值系数加权。具体采样分布、注意力构造及损失形式尚未验证。 作者报告,在嵌入空间插值使每个 mini-batch 的损失项数量提高数个数量级,而额外成本较小;在四个基准上优于所比较的先进 Mixup 方法。摘要未提供基准名称、指标、划分及具体增益,无法据此量化收益或比较不同协议。作者还报告,嵌入空间中的类别聚集更紧密、分布更均匀,并以此解释性能改善;该解释的分析方法、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,嵌入空间凸组合可能为小样本 EEG 分类提供额外正则化,但这依赖嵌入及软标签插值具有合理语义。可优先复用 MultiMix 的批内插值机制;Dense MultiMix 则需明确 EEG 时间或通道位置的含义,并检验样本级标签与局部片段是否一致。低信噪比、跨被试差异及通道布局变化可能使凸组合偏离有效信号分布,注意力也不必然代表可靠置信度。一个可证伪的小实验是在固定被试内或跨被试划分下,以相同编码器分别比较 ERM、成对嵌入 Mixup 与 MultiMix,控制训练预算并记录分类指标和运行成本。已有 EEG 相关工作尚未检索确认。
值得关注其将成对 Mixup 扩展为整个 mini-batch 凸包采样的机制,以及 Dense MultiMix 对局部监督不足的处理,但其收益与计算成本仍需结合全文协议核对,EEG 适用性尚未验证。
来源:OpenReview · State space models · openreview.net