跳到正文
OpenReview · State space models· Evelina Bakhturina; Yang Zhang; Boris Ginsburg·· 2022-01-01精选AI 评分71

用于文本规范化的加权有限状态转换器与语言模型浅融合

Shallow Fusion of Weighted Finite-State Transducer and Language Model for Text Normalization

AI 导读

基于摘要分析。本文研究文本规范化(Text Normalization,TN)中规则系统难以处理上下文歧义、神经系统可能产生不可恢复错误且依赖难以收集的标注数据的问题,提出结合加权有限状态转换器(WFST)与神经语言模型的混合方法。 核心机制是先由非确定性 WFST 生成所有规范化候选,再由神经语言模型选择最佳候选,思路类似自动语音识别中的 shallow fusion。规则模块约束候选空间,语言模型负责利用上下文消解歧义。作者认为 WFST 可防止不可恢复错误,并称该方案易于扩展;摘要未说明错误的具体定义、候选覆盖条件、融合评分形式,以及语言模型的训练和监督需求,因此不能据此认定它完全不需要标注数据。 作者报告,该方法在文本规范化任务上取得与现有最先进 TN 模型相当或更好的结果,但摘要未提供数据集、数据划分、评价指标、数值或具体对照模型。实验协议、消融及统计信息尚未验证,尚不能判断收益来自候选约束、语言模型还是二者的组合。 平台推测(待验证):若 BCI 系统已经输出文本,且下游存在可由规则枚举的规范化歧义,该机制可能用于解码后的文本处理,而非直接解决 EEG 信号解码。可复用 WFST 候选生成与语言模型选择流程,但需改造面向 BCI 输出错误的规则,并检查候选覆盖率。低信噪比、小数据以及跨被试或通道变化若导致上游字符错误,正确文本可能根本不在候选集合中,语言模型也可能偏向常见但非用户意图的表达。一个可证伪的小实验是在固定 BCI 解码输出和同一测试划分上,对比规则单独处理、语言模型单独处理与混合处理,分别检查规范化正确率和原始意图保留情况。该迁移假设依赖可获取的解码文本、上下文与人工核对目标;相关 EEG/BCI 工作尚未检索确认。

阅读价值

值得阅读其以 WFST 限定候选空间、由语言模型消解上下文歧义的混合机制,但其比较结果及对 BCI 输出文本处理的适用性尚未验证。

来源:OpenReview · State space models · openreview.net