用于文本规范化的加权有限状态转导器与语言模型浅层融合
Shallow Fusion of Weighted Finite-State Transducer and Language Model for Text Normalization
基于摘要分析。本文研究文本规范化(Text Normalization,TN)中的上下文歧义问题,提出结合加权有限状态转导器(WFST)与神经语言模型的混合方法:先由非确定性 WFST 生成规范化候选,再由语言模型选择最合适的输出,以兼顾规则约束与上下文判断。 核心机制是将候选生成与候选选择分离。摘要指出,生产中的 WFST 系统主要依赖规则,难以处理规范化形式随上下文变化的输入;神经 TN 系统能够利用上下文,但可能产生不可恢复错误,并依赖难以收集的带标注规范化数据。本文借鉴自动语音识别中的 shallow fusion 思路,由 WFST 限定候选空间,由语言模型消解候选间的上下文歧义。作者将防止不可恢复错误归因于 WFST,但其适用范围、候选覆盖条件和具体融合评分方式尚未验证;摘要也不足以确认该方法是否完全不需要 TN 标注数据。 作者报告,在英语文本规范化评估中,该方法取得与现有最先进 TN 模型相当或更好的结果,并易于扩展。摘要未提供数据集、数据划分、对照模型、指标或具体数值,因此不能据此判断优势幅度,也不能推断其多语言效果。实验协议、消融及统计信息尚未验证,代码与复现条件亦尚未确认。 论文的主要研究对象是语言处理中的文本规范化,而非神经信号建模或状态空间模型。现有材料未建立该机制与 EEG/BCI 任务的具体对应关系,因此不据此提出 BCI 迁移效果或复现实验建议。
值得阅读其以 WFST 限定候选、神经语言模型消解上下文歧义的混合机制,但作者报告的英语文本规范化效果及不可恢复错误防护范围仍需结合全文核对。
来源:OpenReview · State space models · openreview.net