跳到正文
OpenReview · Representation learning· Saurabhchand Bhati; Jesús Villalba; Piotr Zelasko; Laureano Moro-Velázquez; Najim Dehak·· 2021-01-01精选AI 评分79

使用 Segmental Contrastive Predictive Coding 的无监督语音分段与变速率表征学习

Unsupervised Speech Segmentation and Variable Rate Representation Learning using Segmental Contrastive Predictive Coding

AI 导读

基于摘要分析。本文研究无监督语音中的音素与类词单元分段,提出 Segmental Contrastive Predictive Coding(SCPC),通过联合学习帧级和片段级表征,将通常分别处理的两类分段任务统一起来,并生成随语音内容变化的变速率表征。 机制上,传统 Contrastive Predictive Coding(CPC)根据过去上下文预测后续帧,主要利用帧级结构。SCPC 先由卷积神经网络从原始波形学习帧级表征,以噪声对比估计(NCE)训练;再通过可微边界检测器确定可变长度片段,并使用 NCE 优化片段编码器。可微边界检测使帧级与片段级编码器能够联合训练,显式利用更高层级的语音结构。 作者报告,在 TIMIT 和 Buckeye 的音素与词分段实验中,单一模型优于已有分段方法,但摘要未给出具体指标、数据划分及基线细节。作者还报告,音素类别影响边界检测,连续元音或半元音之间的边界最难识别。在所述线性音素分类任务中,作者报告,将典型的 100 Hz 特征提取率降低至平均最低 14.5 Hz 后,SCPC 片段级特征仍优于 MFCC;这一结果不能直接解释为其他任务中的性能或效率收益。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可微分段与层级对比学习可能用于 EEG 中持续时间不固定的状态片段建模,但这只是迁移假设。原方法依赖连续语音中可利用的局部与片段结构,无监督分段不等于无需评估标签,摘要也未说明训练数据规模。迁移时可复用联合优化框架,但需改造多通道输入编码和片段表征;EEG 的低信噪比、被试差异及通道变化可能使边界追随伪迹而非任务相关活动,小数据也可能削弱对比学习。一个可检验的小实验是在固定 EEG 数据划分、编码容量和训练预算下,对比固定窗口 CPC 与可微分段版本,检查下游任务性能及边界稳定性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是以可微边界检测连接帧级与片段级对比学习的具体机制,以及内容自适应的变速率表征;其对 EEG 分段和表征学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net