计算机应用研究2021,Vol.38Issue(7) :1983-1987,1997.DOI:10.19734/j.issn.1001-3695.2020.11.0368

基于CoBERT-BiGRU的对话式机器阅读理解

Conversational machine reading comprehension based on CoBERT-BiGRU

陈亮 褚燕华 王丽颖 张晓琳 刘海佳
计算机应用研究2021,Vol.38Issue(7) :1983-1987,1997.DOI:10.19734/j.issn.1001-3695.2020.11.0368

基于CoBERT-BiGRU的对话式机器阅读理解

Conversational machine reading comprehension based on CoBERT-BiGRU

陈亮 1褚燕华 1王丽颖 1张晓琳 1刘海佳1
扫码查看

作者信息

  • 1. 内蒙古科技大学 信息工程学院,内蒙古 包头014010
  • 折叠

摘要

基于现有模型不能有效处理多轮对话历史的不足,提出了CoBERT-BiGRU(concat bidirectional encoder representation from transformers-bidirectional gate recurrent unit)模型.对文章中的对话历史进行标记,将不同标记的文章及问题输入CoBERT模型,得到多个序列的向量化表示;通过历史注意力网络把多个结果融合成一个序列的向量化表示;将融合后的结果输入BiGRU,对答案及对话行为进行推理预测.真实数据集上的实验结果表明,CoBERT-BiGRU模型能够有效处理多轮对话历史,与基准模型和在该数据集上已公开的部分模型相比,HEQ-Q、HEQ-D和F1值都有提升.

关键词

机器阅读理解/BERT/对话问答/双向门控循环单元

引用本文复制引用

基金项目

国家自然科学基金(61562065)

出版年

2021
计算机应用研究
四川省电子计算机应用研究中心

计算机应用研究

CSTPCDCSCD北大核心
影响因子:0.93
ISSN:1001-3695
参考文献量2
段落导航相关论文