首页|基于BERT双向预训练的图模型摘要抽取算法

基于BERT双向预训练的图模型摘要抽取算法

Graph model summary extraction algorithm based on BERT bidirectional pretraining

扫码查看
近年的自动摘要算法大多是基于监督学习机制,没有考虑到人工标记语料的烦琐,并且大多数摘要模型在句子嵌入时不能结合上下文来更充分表达语义信息,忽略了文本的整体信息.针对上述问题提出了一种基于改进的BERT双向预训练语言模型与图排序算法结合的抽取式摘要模型.根据句子的位置以及上下文信息将句子映射为结构化的句子向量,再结合图排序算法选取影响程度靠前的句子组成临时摘要;为了避免得到有较高冗余度的摘要,对得到的临时摘要进行冗余消除.实验结果表明在公用数据集CNN/DailyMaily上,所提模型能够提高摘要的得分,相对于其他改进的基于图排序摘要抽取算法,该方法效果更佳.

方萍、徐宁

展开 >

武汉理工大学 计算机科学与技术学院,武汉430070

武汉理工大学 信息工程学院,武汉430070

抽取式摘要 BERT 图排序算法 冗余消除

2021

计算机应用研究
四川省电子计算机应用研究中心

计算机应用研究

CSTPCDCSCD北大核心
影响因子:0.93
ISSN:1001-3695
年,卷(期):2021.38(9)
  • 3
  • 4