使用 WaveNet 自编码器进行语音转换的无监督声学单元表征学习
基于摘要分析。研究面向语音转换中的无监督帧级声学单元表征学习,针对 VQVAE 等离散潜变量模型生成语音质量相对较差的问题,提出使用 WaveNet 自编码器,并通过解耦学习改善潜在表征,兼顾转换语音质量与声学单元表征质量。 方法包含两个主要环节:以 WaveNet 作为解码器,直接从潜在表征生成波形;采用 instance normalization 和 sliced vector quantization 两种备选解耦方法改善潜在表征。摘要未给出两种方法的具体实现、训练目标或对照消融,不能据此判断各模块的独立贡献。 作者报告,在 ZeroSpeech Challenge 2020 提交系统的评估中,自然度 Mean Opinion Score 为 4.06、排名第一;可懂度 Character Error Rate 为 0.15、排名第一;表征质量 ABX test score 为 12.5、排名第三。这些指标分别评估不同目标,不能相互替代;作者据此认为,转换语音质量与声学单元表征质量能够取得较好平衡。具体数据集配置、训练与测试划分、评价样本量、基线、消融及统计信息尚未验证。 平台推测(待验证):若将其用于 EEG 表征学习,可检验的机制假设是通过潜变量解耦保留任务相关信息、减弱被试或采集条件差异。原方法依赖语音波形及声学单元结构,不能直接等同于 EEG 的任务结构;可借鉴解耦思路,但编码器、解码器和任务约束均需改造。低信噪比、通道差异与小数据可能使解耦过程删除有效神经信息。一个小规模检验是在固定 Cross-subject 划分与同一编码器下,对比加入和不加入 instance normalization 的任务性能及被试信息可预测性,检查是否同时减少被试差异并保留任务信息。该实验仅为迁移假设,相关 EEG 工作尚未检索确认。
阅读价值:值得关注的是以 WaveNet 波形解码配合两种解耦方法,考察离散声学单元表征质量与转换语音质量的平衡;其挑战赛结果可核对,但对 EEG/BCI 的适用性尚未验证。