跳到正文
OpenReview · Representation learning· Han He; Xiaokun Yang; Lei Wu; Hua Yan; Zhimin Gao; Yi Feng; George Townsend·· 2017-01-01精选AI 评分73

用于子字符表示学习的双长短期记忆网络

Dual Long Short-Term Memory Networks for Sub-Character Representation Learning

AI 导读

基于摘要分析。本文研究中文字符内部结构如何用于表示学习,以 Chinese Word Segmentation 为案例,提出采用两个堆叠 LSTM 的架构,学习部首等子字符级表示,并利用共享部首嵌入处理简体与繁体中文分词。 其核心机制是将字符进一步分解为部首层面的组成单元,在字符级以下建模语义信息。作者提出共享部首级嵌入,使简繁中文分词不必额外进行繁体到简体转换;同时绑定部首与字符嵌入,以减少参数并在两个表示层级间共享、迁移语义知识。具体序列构造、嵌入绑定方式、训练目标及推理流程尚未验证。 作者报告,在四个 Bakeoff 2005 数据集中的三个上,该方法超过当时的最优结果,提升幅度最高为 0.4%;摘要未明确该数值对应的指标,以及其表示相对百分比还是绝对百分点,因此不能进一步转换或与其他协议直接比较。各数据集划分、对照方法、实验协议、消融及统计信息尚未验证。 作者称代码和语料已在 GitHub 提供,但所给材料未包含仓库地址,复现资源及其可用性尚未核验。本文的主要对象是具有部首结构的中文文本,而非神经信号;摘要未提供与 EEG 结构相对应的具体机制或验证证据,因此不将其视为已验证的 BCI 方法。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其部件级共享表示与部首—字符嵌入绑定如何支持简繁中文联合建模,但摘要尚不足以支持其对 EEG 或 BCI 的迁移价值。

来源:OpenReview · Representation learning · openreview.net