跳到正文
OpenReview · Representation learning· Jan Chorowski; Ron J. Weiss; Samy Bengio; Aäron van den Oord·· 2019-01-01精选AI 评分79

使用 WaveNet 自编码器的无监督语音表征学习

Unsupervised Speech Representation Learning Using WaveNet Autoencoders

AI 导读

基于摘要分析。本文研究从语音波形中无监督提取有意义的潜在表征,目标是保留音素身份等高层内容,同时降低音高轮廓、背景噪声等低层因素的影响。核心思路是约束编码表征,并利用高容量 WaveNet 解码器从先前样本中推断编码器丢弃的信息,以支持语音重建。 作者比较了三类潜变量约束:简单降维瓶颈、Gaussian Variational Autoencoder(VAE)和离散 Vector Quantized VAE(VQ-VAE)。评估维度包括说话人独立性、音素内容预测能力及单个声谱图帧的重建能力;对 VQ-VAE 的离散编码,还考察其映射到音素的难易程度。作者另提出一种使表征聚焦语音音素内容的正则化方案,但摘要未给出具体形式。 作者报告,在 ZeroSpeech 2017 无监督声学单元发现任务中,其性能与领先参赛方案相当。摘要未提供具体指标、分数、训练数据规模及划分,不能据此判断优势幅度或各瓶颈的相对表现;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可检验的迁移假设是,受约束潜变量与依赖历史信号的解码器可能帮助 EEG 表征区分任务相关信息和可预测背景变化。但语音中的音素结构不等同于 EEG 任务结构,说话人独立性也不等同于跨被试泛化。可复用的是瓶颈比较与重建框架,需改造多通道编码、解码及任务相关性评估;其对连续时序结构、数据规模及评估标签的依赖需核对。低信噪比、通道差异和小数据可能使瓶颈丢弃微弱有效信号,或使解码器主要拟合背景活动。一个小规模可证伪实验是在固定 EEG 数据划分和相同训练预算下比较三类瓶颈,同时评估任务解码与被试身份可预测性,检验能否在保留任务信息时降低被试信息。该实验属于迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是其通过潜变量约束与高容量 WaveNet 解码器分离语音内容和低层细节的机制,以及三类瓶颈的对照;该机制对 EEG 表征的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net