跳到正文
OpenReview · Representation learning· Jing-Tong Tzeng; Carlos Busso; Chi-Chun Lee·· 2025-12-31精选AI 评分73

基于混合专家表征的联合学习:提升语音生成与鲁棒情感识别

Joint Learning using Mixture-of-Expert-Based Representation for Enhanced Speech Generation and Robust Emotion Recognition

AI 导读

基于摘要分析。本文研究噪声环境下语音情感识别(SER)与语音增强(SE)的联合学习,提出 Sparse Mixture-of-Experts Representation Integration Technique(Sparse MERIT),旨在减少传统共享骨干多任务学习中的梯度干扰与表征冲突。原标题使用“语音生成”,但摘要描述的辅助任务及实验均为语音增强,不宜据此扩展为通用语音生成方法。 机制上,Sparse MERIT 在自监督语音表征上执行逐帧专家路由:各任务通过独立门控网络,从共享专家池中动态选择专家,以兼顾任务适配和参数效率。其区别于先增强后识别的串联流程,也区别于直接共享骨干的朴素多任务学习;具体路由稀疏度、训练损失、骨干模型和计算开销尚未验证。 作者报告,在 MSP-Podcast 上,该方法在 SER 与 SE 任务中均优于所比较的基线。在最困难的 −5 dB SNR 条件下,SER 的 F1-macro 相对采用 SE 预处理的基线平均提升 12.0%,相对朴素多任务基线提升 3.4%;摘要称未见噪声条件下的改善具有统计显著性。作者另报告,SE 的分段信噪比(SSNR)相对上述两类基线分别提升 28.2% 和 20.0%,但摘要未明确这组 SE 数值是否同样限定于 −5 dB。这些百分比不应改写为百分点。数据划分、噪声构造、指标绝对值、消融及统计检验细节尚未验证。 平台推测(待验证):若 EEG 去噪与下游解码存在类似任务冲突,可检验“任务特定门控+共享专家”能否减少去噪对判别信息的损伤。可复用的是路由机制,需改造输入表征和去噪监督;语音预训练表征不能直接假定适用于 EEG。低信噪比、跨被试差异、通道变化和小数据可能导致路由不稳或过拟合。一个可证伪的小实验是在固定 EEG 数据划分下,以相同编码器比较共享骨干与稀疏专家联合训练,同时评估去噪及解码表现。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其以任务特定门控和共享专家缓解语音增强与情感识别表征冲突的机制,但摘要中的性能增益仍需结合完整评估协议核对,尚不能视为 EEG/BCI 有效性的证据。

来源:OpenReview · Representation learning · openreview.net