跳到正文
OpenReview · Representation learning· Wen-Chin Huang; Hao Luo; Hsin-Te Hwang; Chen-Chou Lo; Yu-Huai Peng; Yu Tsao; Hsin-Min Wang·· 2020-01-01精选AI 评分70

基于 VAE 的语音转换中利用跨域特征与对抗学习实现无监督表征解耦

Unsupervised Representation Disentanglement Using Cross Domain Features and Adversarial Learning in Variational Autoencoder Based Voice Conversion

AI 导读

基于摘要分析。该研究面向语音转换(VC),目标是将语言内容与说话人等其他语音成分解耦。作者在此前利用不同性质声学特征的 cross-domain VAE-VC(CDVAE-VC)框架上引入生成对抗网络(GANs)和说话人对抗约束,以增强潜表示解耦并改善转换语音的质量及说话人相似度。 方法包含两个考察方向:一是将 GANs 与 CDVAE-VC 结合;二是引入域对抗训练思想,通过说话人分类器对潜表示施加显式约束,抑制其中的说话人信息。这里的“跨域”主要涉及不同性质的声学特征,不应直接等同于跨被试或跨数据集泛化。摘要未给出具体特征、网络结构、损失形式及训练流程;标题中的“无监督”也不足以确定说话人分类器所需监督的来源。 作者报告,GANs 和说话人分类器均能提高所学潜表示的解耦程度,主观质量及相似度评分也支持所提方法有效。摘要未提供数据集、说话人数、数据划分、对照配置、评分数值及统计检验,因而无法判断效果幅度或两类约束的独立贡献;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务信息与被试身份能够部分分离,说话人对抗约束可类比为被试身份对抗约束,用于检验跨被试表征学习。可复用的是潜表示上的身份分类约束,声学特征编码与语音生成部分则需重新设计,并需核对训练被试身份监督及多视图数据条件。风险在于低信噪比、小样本、通道差异,以及被试差异与任务信息耦合时误删有效信号。一个可证伪的小实验是在固定留出被试划分和相同 EEG 编码器下,对比有无身份对抗约束,同时检验任务表现与独立身份探针表现,判断去身份是否真正改善泛化。已有 EEG 相关工作尚未检索确认。

阅读价值

该研究值得关注之处在于将生成对抗学习与说话人对抗约束用于语音内容解耦,可为区分生成质量改善与潜表示去身份信息提供对照思路,但其 EEG/BCI 迁移价值尚未验证。

来源:OpenReview · Representation learning · openreview.net