OpenReview · Representation learning· Minglei Li; Qin Lu; Yunfei Long·· 2017-01-01精选AI 评分71
带可组合性约束的多词表达表征学习
Representation Learning of Multiword Expressions with Compositionality Constraint
AI 导读
基于摘要分析。本文研究自然语言中多词表达(MWE)的表征学习,提出以可组合性为约束的混合方法,联合利用表达的外部上下文与组成词信息,旨在兼顾分布式方法的数据稀疏问题及组合式方法对非可组合表达的适用局限。 核心机制是对外部上下文与组成词信息进行加权线性组合,并根据 MWE 的可组合性确定权重。其区别于简单融合之处,在于引入词汇语义学中的可组合性度量作为约束:分布式方法将 MWE 视为不可分割单元,难以利用内部词语信息;组合式方法依赖组成词推导整体意义,在整体意义不能由组成词直接推导时可能失效。摘要未提供可组合性度量的计算方式、权重学习过程、具体目标函数或训练细节。 作者报告,在三个数据集上的评估表明,该混合方法表现更稳健,并能够改善表征。摘要未列出数据集名称、任务、划分方式、对照基线及具体指标,因此尚不能判断提升幅度与适用边界;实验协议、消融及统计信息尚未验证。 原论文的主要对象是语言中的 MWE,而非 EEG 或 BCI。现有材料未建立可组合性约束与神经信号建模之间的具体机制对应,不能据此推断其具有 BCI 有效性;已有 EEG 相关工作尚未检索确认。
阅读价值
值得关注的是以词汇语义学中的可组合性度量约束外部上下文与组成词信息的融合,而非固定混合两类表征;其稳健性优势仍需结合全文中的评估协议与对照结果核验。
来源:OpenReview · Representation learning · openreview.net