通过离散语音表示进行面向 ASR 的无监督数据选择

基于摘要分析。该研究针对自动语音识别（ASR）的自监督预训练数据选择问题，提出利用离散语音表示筛选与目标域声学相似的数据，以减少预训练所需数据量并改善下游识别表现；研究对象是语音，而非 EEG 或 BCI。 方法以常见自监督学习框架提供的离散语音 token 为输入，在这些 token 上应用对比式数据选择。其核心思路是依据目标域相关性选择预训练数据，而非直接使用全部通用数据。摘要未给出离散表示的具体提取方式、对比选择的计算形式，以及目标域数据的使用协议，不能据此将其等同于某种特定对比学习损失。 作者报告，在通用数据池中选择 6% 的数据用于预训练，相较使用全量数据预训练，在 LibriSpeech test-other 上获得 11.8% 的相对改善；摘要未明确该数值对应的具体指标。作者还报告，在 Multilingual LibriSpeech 的法语、德语和西班牙语测试集上，以所选 6% 数据预训练，相较全量预训练使词错误率（WER）相对降低超过 15%。这些是相对变化，不是百分点变化。作者称结果可与当时先进表现竞争，但具体基线、训练预算、数据划分、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，若 EEG 离散表示保留任务相关结构，基于其与目标域的相似性选择预训练数据，可能缓解大量异质数据与目标任务不匹配的问题。可复用的是“离散表示—目标域匹配—数据筛选”流程；需改造 EEG 表示提取与相似性度量，并明确目标域数据是否可用及是否涉及标签。低信噪比、被试差异、通道配置差异和小样本可能使 token 更反映伪迹或设备特征。可在固定跨被试划分下，仅使用允许访问的无标签目标域数据进行筛选，对比等量随机子集与全量预训练，并分别控制训练步数和计算预算。已有 EEG 相关工作尚未检索确认。