跳到正文
OpenReview · Representation learning· Jan Chorowski; Ron J. Weiss; Samy Bengio; Aäron van den Oord·· 2019-01-01精选AI 评分79

使用 WaveNet 自编码器进行无监督语音表示学习

Unsupervised speech representation learning using WaveNet autoencoders

AI 导读

基于摘要分析。该研究以语音波形为对象,利用无监督自编码器提取能够保留音素身份等高层内容、同时减少音高轮廓和背景噪声等低层因素影响的潜表示。核心思路是限制编码器保留的信息,并让高容量 WaveNet 解码器利用此前的波形样本推断被编码器舍弃的信息。 作者比较了三类潜表示约束:简单的降维瓶颈、Gaussian Variational Autoencoder(VAE)和离散 Vector Quantized VAE(VQ-VAE)。评估关注说话人独立性、音素内容预测能力及单个声谱图帧的重建能力,并进一步考察 VQ-VAE 离散编码映射到音素的难易程度。作者还提出一种促使表示聚焦于话语音素内容的正则化方案,但摘要未给出其具体形式。 作者报告,在 ZeroSpeech 2017 无监督声学单元发现任务中,其性能可与领先参赛方法相当;摘要未提供具体指标、数值或详细评估协议,不能据此判断各变体的优势幅度。数据划分、模型配置、正则化实现、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,受约束的潜表示配合能建模局部时序的解码器,可能帮助 EEG 表示减少部分干扰并保留任务相关信息;但语音中的音素结构与 EEG 的任务信息并不等价,波形重建也不保证学到可用于 BCI 的特征。迁移需改造输入通道与时间尺度,并核对潜表示是否舍弃了微弱任务信号;低信噪比、跨被试差异及小数据可能使离散编码失效或偏向干扰。一个可证伪的小实验是在固定 EEG 数据划分和下游解码器下,对比连续瓶颈与 VQ-VAE 表示的跨被试任务表现及被试身份可预测性,检验任务信息保留与身份信息减少能否同时成立。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是其通过潜表示约束与高容量 WaveNet 解码器分工,探索语音内容和低层混杂因素分离,并比较连续、变分与离散表示;其对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net