多样性中的统一:面向抽取式摘要的分布式异构句子表示学习
Unity in Diversity: Learning Distributed Heterogeneous Sentence Representation for Extractive Summarization
基于摘要分析。本文研究多文档抽取式文本摘要,提出 HNet,通过学习句子的语义与组合特征来刻画句子被纳入摘要的价值,并结合文档相关特征进行句子排序。其主要贡献是以数据驱动的句子表示替代传统方法中人工设计的文档无关特征。 机制上,HNet 的表示学习目标是让显著句子在向量空间中比非显著句子更接近,再将所学语义与组合特征向量同文档相关特征拼接,用于排序。摘要未说明显著性监督如何构建、距离关系如何优化,以及具体网络结构、损失函数和训练流程,这些内容尚未验证。 作者报告,在 DUC-2001、DUC-2002 和 DUC-2004 多文档摘要基准上,相较其所称的当时最先进基线,模型的 ROUGE 分数提升约 1.5–2 分。摘要未明确对应的 ROUGE 变体、分数标度、各数据集结果、训练测试划分及基线名称,因而不能将该范围解释为各数据集上的统一增益,也不能据此确认统计显著性;实验协议、消融及统计信息尚未验证。 本文的直接研究对象是文本摘要,而非 EEG 表征或 BCI 解码。所给材料不足以建立句子显著性、文档特征与神经信号任务之间的具体对应关系,因此不据此推断 BCI 有效性;已有 EEG 相关工作尚未检索确认。
值得关注的是 HNet 将句子显著性导向的表示学习与文档相关特征结合用于抽取排序,但摘要中的 ROUGE 增益仍需结合具体指标、数据划分及基线核对。
来源:OpenReview · Representation learning · openreview.net