Robust Data2VEC:结合回归与改进对比学习的面向 ASR 的噪声鲁棒语音表示学习
Robust Data2VEC: Noise-Robust Speech Representation Learning for ASR by Combining Regression and Improved Contrastive Learning
基于摘要分析。该研究面向噪声环境下的自动语音识别(ASR),提出在 data2vec 自监督预训练阶段联合优化回归任务与对比学习任务,并改进负样本构造和筛选,以增强语音表示的噪声鲁棒性。主要研究对象是语音,而非 EEG 或 BCI。 方法包含两项负样本改进:一是将特征划分为不同尺寸的 patch,构造基于 patch 的非语义负样本;二是分析正负样本分布,剔除容易区分的负样本,以提升表示的判别能力。摘要未给出联合目标的具体损失形式、权重、patch 构造细节或负样本筛选阈值,这些实现条件尚未验证。 作者报告,在 CHiME-4 数据集的噪声场景评估中,该方法改善了预训练模型的表现;与仅训练回归任务相比,联合训练可在一定程度上避免表示坍塌。摘要未提供具体 ASR 指标、数值、数据划分与完整基线,因而不能判断提升幅度或比较不同协议下的效果;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,回归与对比目标的互补,以及对负样本难度的控制,可能有助于缓解 EEG 自监督表示对噪声的敏感性。该机制依赖未标注序列数据及正负样本构造;语音非语义 patch 在 EEG 中不一定仍是无任务信息的负样本,可能破坏有效节律或引入被试、通道差异。可复用联合预训练思路,但需改造 patch 定义与筛选规则。一个小规模可证伪实验是在同一 EEG 数据划分和标注预算下,对比仅回归、回归加常规对比、回归加改进负样本三种设置,观察加入可控噪声后的下游表现与表示坍塌情况;低信噪比和小数据可能使困难负样本筛选不稳定。相关 EEG 工作尚未检索确认。
该研究值得关注之处是将回归式自监督预训练与负样本构造联系起来,提供了考察噪声鲁棒性和表示坍塌的具体机制,但其 EEG 迁移价值尚未验证。
来源:OpenReview · Representation learning · openreview.net