跳到正文
OpenReview · State space models· Tina Raissi; Eugen Beck; Ralf Schlüter; Hermann Ney·· 2022-01-01精选AI 评分75

改进不使用状态绑定的因子化混合 HMM 声学建模

Improving Factored Hybrid HMM Acoustic Modeling without State Tying

AI 导读

基于摘要分析。本文研究自动语音识别中的声学建模,提出不使用语音状态绑定的因子化混合隐马尔可夫模型(FH-HMM),以保留三音素上下文建模能力,并维持混合 HMM 中声学模型与语言模型的严格分离。 核心机制是将音素上下文中的单音素/HMM 状态后验分解为局部归一化的因子化后验,从而避免依赖状态绑定来组织上下文相关状态。作者指出,该模型在语音标签上下文的建模方式上与 transducer 模型存在联系,同时可以从头训练,且所有训练步骤均不需要语音状态绑定。摘要未给出具体分解公式、网络结构、训练目标或解码实现,这些内容尚未验证。 作者报告,在涉及 Switchboard 300h 与 LibriSpeech 的实验中,FH-HMM 优于所比较的先进混合 HMM,但摘要未提供具体指标、数值及数据划分。在 Switchboard 300h 任务上,作者还报告,相比使用分类与回归树(CART)进行语音状态绑定的标准混合 HMM,取消状态绑定后,因子化模型能更充分地利用训练正则化。各数据集的详细对照、实验协议、消融及统计信息尚未验证。 平台推测(待验证):该分解思路可能与具有离散标签序列及上下文依赖的 EEG 解码任务存在方法对应,但语音中的三音素结构并不天然对应 EEG 类别。可复用候选是上下文后验因子化与 HMM 时序建模,需改造标签上下文定义、信号编码和序列对齐;低信噪比、跨被试差异及小数据可能使上下文估计不稳定。一个可证伪的小实验是在已有连续 EEG 标签数据上,固定编码器与数据划分,比较因子化和非因子化 HMM 的序列解码表现,并检验正则化收益是否一致。此为迁移假设,不是本文已验证的 BCI 结果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其用局部归一化后验分解替代语音状态绑定的建模机制,以及作者报告的正则化收益;具体性能差异与实验协议仍需全文核对。

来源:OpenReview · State space models · openreview.net