跳到正文
OpenReview · State space models· Monisankha Pal; Manoj Kumar; Raghuveer Peri; Tae Jin Park; So Hyun Kim; Catherine Lord; Somer Bishop; Shrikanth Narayanan·· 2020-01-01精选AI 评分74

利用生成对抗网络中的潜空间聚类进行说话人日志

Speaker Diarization Using Latent Space Clustering in Generative Adversarial Network

AI 导读

基于摘要分析。本文研究说话人日志(speaker diarization,即区分录音中谁在何时说话),提出借助编码器进行 GAN 反向映射的深度潜空间聚类方法,使输入的 x-vector 说话人嵌入形成适于聚类的潜空间表示。主要研究对象是语音中的说话人区分,而非 EEG/BCI 或自闭症诊断模型。 机制上,系统联合使用 GAN loss、latent variable recovery loss 和 clustering-specific loss 训练。潜变量由连续随机变量与离散 one-hot 变量组合构成,并使用原始说话人标签。该方法因此依赖训练阶段的身份监督,不能仅凭“聚类”将其理解为完全无监督方法;具体损失形式、标签编码方式及推理时的聚类流程尚未验证。 评估包括 AMI meeting corpus,以及自闭症诊断领域的儿童—临床人员互动语料 ADOS 和 BOSCC:后两者分别包含临床环境中有语言能力的自闭症儿童及青少年的诊断和治疗结局评估会话。作者报告,该方法优于所比较的 x-vector 说话人日志系统;进一步与 x-vectors 进行嵌入融合后,在使用 oracle speech segmentation 的条件下,相对 x-vector 基线,AMI eval、ADOS 和 BOSCC 的 DER 分别相对下降 31%、36% 和 49%。这些是相对改善而非百分点下降,且不反映自动语音分段条件下的完整系统性能。绝对 DER、数据划分、样本规模、消融及统计信息尚未验证。 平台推测(待验证):身份监督与潜空间聚类的结合,可能用于探索 EEG 嵌入中的被试结构,但原任务希望区分身份,而跨被试 BCI 通常需要降低身份差异,两者目标并不一致。可复用的是编码器映射及联合聚类约束思路,需改造输入表示和监督目标;低信噪比、通道差异及小数据可能使模型优先捕获被试或设备特征。一个可检验的假设是:在固定跨被试划分下,为同一 EEG 编码器增加该类约束,比较任务分类表现与被试身份可分性,检查是否仅强化身份信息。该实验仅属迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是利用说话人标签约束 GAN 潜空间并联合优化聚类的机制;作者报告的 DER 改善依赖 oracle speech segmentation,不能直接视为端到端说话人日志系统或 EEG/BCI 的有效性证据。

来源:OpenReview · State space models · openreview.net