跳到正文
OpenReview · Representation learning· Xiaodong Yu; Wenpeng Yin; Dan Roth·· 2022-01-01精选AI 评分74

面向事件共指的成对表征学习

Pairwise Representation Learning for Event Coreference

AI 导读

基于摘要分析。本文研究自然语言处理中的事件共指判定,即判断两个文本片段中的事件提及是否指向同一事件,提出 Pairwise Representation Learning(PairwiseRL),使每个事件提及的表征在另一个提及的上下文中生成,而非先独立编码再进行二分类。 核心机制是联合编码一对文本片段,使表征构建本身考虑待判定对象之间的关系;同时支持更细粒度的结构化文本表征,以编码事件及其论元。作者报告,在跨文档和文档内事件共指基准上,PairwiseRL 优于此前最先进的事件共指系统,并对成对表征带来的改进与局限进行了深入分析。摘要未提供基准名称、具体指标、数据划分、编码器结构或训练目标,实验协议、消融及统计信息尚未验证,两类评估也不能直接混为同一结果。 平台推测(待验证):其可迁移假设是,让 EEG 片段的表征显式依赖比较对象,可能有助于同类试次匹配或检索,而非直接替代 BCI 分类器。原方法依赖成对文本、事件及论元结构,并以共指关系为判定目标;用于 EEG 时,可借鉴成对条件编码思想,但需改造信号编码器、时空结构表示及配对监督,所需训练规模尚不明确。低信噪比、被试差异、通道不一致和小数据条件下,模型可能学习被试或采集条件的相似性,而非任务相关关系。 一个可证伪的小实验是:在固定 EEG 任务中,以类别标签构造同类与异类试次对,对比独立编码与成对条件编码,保持划分和训练预算一致,并确保配对不跨越训练与测试边界;分别评估被试内与跨被试配对判别。若收益仅出现在被试内或无法超越独立编码,则不支持其跨被试迁移假设。已有相关 EEG 工作尚未检索确认。

阅读价值

值得阅读其将独立文本编码改为成对条件编码的机制及局限分析;作者报告了事件共指基准上的改进,但该机制对 EEG 配对判别的价值尚未验证。

来源:OpenReview · Representation learning · openreview.net