跳到正文
OpenReview · State space models· Naoyuki Kanda; Yusuke Fujita; Kenji Nagamatsu·· 2018-01-01精选AI 评分74

声学模型的无格状态级最小贝叶斯风险训练

Lattice-free State-level Minimum Bayes Risk Training of Acoustic Models

AI 导读

基于摘要分析。该研究面向语音识别声学模型训练,针对无格最大互信息(LF-MMI)目标不一定直接最大化识别准确率的问题,提出无格状态级最小贝叶斯风险训练(LF-sMBR),以最大化状态级期望准确率,同时避免生成格(lattice)。 机制上,LF-sMBR 与 LF-MMI 一样,在音素 N-gram 空间进行前向—后向计算,省去重复的格生成过程。其主要区别在于采用 sMBR 准则而非 MMI 准则,使训练目标对应状态级期望准确率。状态级准确率与最终语音识别准确率仍需区分。作者称该机制可简化并加速 sMBR 训练,并指出对静音音素进行特殊处理是改善准确率的关键;具体处理方式、损失实现及计算开销尚未验证。 作者报告,在 AMI、CSJ 和 Librispeech 语料的实验中,LF-sMBR 相比 LF-MMI 声学模型取得小幅但一致的改进,并称各测试集结果达到当时最先进水平。摘要未提供具体指标、数值、数据划分或完整对照条件,因此无法量化收益或独立核对这一结论;实验协议、消融及统计信息尚未验证。 平台推测(待验证):这一方法的潜在迁移对象是具有明确状态序列和转移约束的 EEG 连续解码任务,而非一般试次分类。假设任务具备状态监督及可构建的序列图,可考虑复用前向—后向计算与期望准确率优化,但音素状态、N-gram 约束及静音处理需改造为任务状态、转移关系与空闲状态处理。EEG 的低信噪比、状态边界不确定、跨被试及通道差异,以及小数据下不可靠的转移估计,都可能使该假设失效。一个可检验的小实验是在固定数据划分、解码器和状态图的条件下,对比基线训练目标与状态级风险目标,并单独检验空闲状态处理对状态级及任务级指标的影响。已有 EEG 相关工作尚未检索确认,语音领域结果不构成 BCI 有效性的证据。

阅读价值

值得阅读其如何在音素 N-gram 空间实现状态级风险训练,以及静音音素处理对效果的影响;摘要报告了相对 LF-MMI 的一致小幅改进,但其 EEG/BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net