计算机应用研究2021,Vol.38Issue(9) :2657-2661.DOI:10.19734/j.issn.1001-3695.2021.01.0034

基于BERT双向预训练的图模型摘要抽取算法

Graph model summary extraction algorithm based on BERT bidirectional pretraining

方萍 徐宁
计算机应用研究2021,Vol.38Issue(9) :2657-2661.DOI:10.19734/j.issn.1001-3695.2021.01.0034

基于BERT双向预训练的图模型摘要抽取算法

Graph model summary extraction algorithm based on BERT bidirectional pretraining

方萍 1徐宁2
扫码查看

作者信息

  • 1. 武汉理工大学 计算机科学与技术学院,武汉430070
  • 2. 武汉理工大学 信息工程学院,武汉430070
  • 折叠

摘要

近年的自动摘要算法大多是基于监督学习机制,没有考虑到人工标记语料的烦琐,并且大多数摘要模型在句子嵌入时不能结合上下文来更充分表达语义信息,忽略了文本的整体信息.针对上述问题提出了一种基于改进的BERT双向预训练语言模型与图排序算法结合的抽取式摘要模型.根据句子的位置以及上下文信息将句子映射为结构化的句子向量,再结合图排序算法选取影响程度靠前的句子组成临时摘要;为了避免得到有较高冗余度的摘要,对得到的临时摘要进行冗余消除.实验结果表明在公用数据集CNN/DailyMaily上,所提模型能够提高摘要的得分,相对于其他改进的基于图排序摘要抽取算法,该方法效果更佳.

关键词

抽取式摘要/BERT/图排序算法/冗余消除

引用本文复制引用

出版年

2021
计算机应用研究
四川省电子计算机应用研究中心

计算机应用研究

CSTPCDCSCD北大核心
影响因子:0.93
ISSN:1001-3695
被引量3
参考文献量4
段落导航相关论文