Robust Data2vec：结合回归与改进对比学习的面向 ASR 的噪声鲁棒语音表示学习

基于摘要分析。本文研究自监督语音预训练中，回归与对比学习的联合优化及负样本构造如何影响自动语音识别（ASR）的噪声鲁棒性，提出 Robust Data2vec。主要研究对象是语音表示与噪声环境下的 ASR，并非 EEG 或 BCI。 方法在预训练阶段联合优化回归任务与对比学习任务，并引入两项负样本策略：一是将特征按不同尺寸划分为 patch，构造基于 patch 的非语义负样本，以增强噪声鲁棒性；二是分析正负样本分布，移除容易区分的负样本，以改善表示的判别能力。摘要未给出具体损失形式、任务权重、patch 构造细节或负样本筛选阈值。 作者报告，在 CHiME-4 数据集的噪声场景实验中，该方法改善了预训练模型的表现；相较于仅优化回归任务，联合训练在一定程度上缓解了表示坍塌。摘要未提供具体指标、提升幅度、数据划分及完整对照配置，因此尚不能判断各模块的独立贡献或不同噪声条件下的收益。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其联合目标与负样本筛选机制可能用于研究 EEG 自监督预训练中的噪声敏感性和表示坍塌，但语音特征的语义结构与 EEG 不同，不能直接迁移其负样本定义。可复用的是联合优化与负样本筛选思路；需改造的是时间片段、通道及频段的划分规则。低信噪比、跨被试差异与小数据条件下，patch 负样本可能仍包含有效神经活动，筛选规则也可能误删有价值的对照样本。一个可检验的小实验是在固定 EEG 数据划分、编码器和训练预算下，对照仅回归、联合目标及加入两项负样本策略的设置，同时检查下游任务表现与表示坍塌指标。相关 EEG 工作尚未检索确认。