计算机科学2021,Vol.48Issue(10) :91-97.DOI:10.11896/jsjkx.200900015

融合BERT和记忆网络的实体识别

Entity Recognition Fusing BERT and Memory Networks

陈德 宋华珠 张娟 周泓林
计算机科学2021,Vol.48Issue(10) :91-97.DOI:10.11896/jsjkx.200900015

融合BERT和记忆网络的实体识别

Entity Recognition Fusing BERT and Memory Networks

陈德 1宋华珠 1张娟 1周泓林1
扫码查看

作者信息

  • 1. 武汉理工大学计算机科学与技术学院 武汉430070
  • 折叠

摘要

实体识别是信息提取的子任务,传统实体识别模型针对人员、组织、位置名称等类型的实体进行识别,而在现实世界中必须考虑更多类别的实体,需要细粒度的实体识别.同时,BiGRU等传统实体识别模型无法充分利用更大范围内的全局特征.文中提出了一种基于命名记忆网络和BERT的实体识别模型,记忆网络模块能够记忆更大范围的特征,BERT语言预训练模型能进行更好的语义表示.对水泥熟料生产语料数据进行实体识别,实验结果表明,所提方法能够识别实体且较其他传统模型更具优势.为了进一步验证所提模型的性能,在CLUENER2020数据集上进行实验,结果表明,在BiGRU-CRF模型的基础上使用BERT和记忆网络模块进行优化是能够提高实体识别效果的.

关键词

实体识别/BERT/记忆网络/BiGRU-CRF

引用本文复制引用

基金项目

出版年

2021
计算机科学
重庆西南信息有限公司(原科技部西南信息中心)

计算机科学

CSTPCDCSCD北大核心
影响因子:0.944
ISSN:1002-137X
被引量3
参考文献量2
段落导航相关论文