计算机技术与发展2023,Vol.33Issue(5) :159-166.DOI:10.3969/j.issn.1673-629X.2023.05.024

基于BERT-BiGRU集成学习的情感语义识别

Sentiment Semantic Recognition Based on BERT-BiGRU Ensemble Learning

游兰 曾晗 韩凡宇 金红 崔海波 张家合
计算机技术与发展2023,Vol.33Issue(5) :159-166.DOI:10.3969/j.issn.1673-629X.2023.05.024

基于BERT-BiGRU集成学习的情感语义识别

Sentiment Semantic Recognition Based on BERT-BiGRU Ensemble Learning

游兰 1曾晗 1韩凡宇 2金红 3崔海波 4张家合5
扫码查看

作者信息

  • 1. 湖北大学 计算机与信息工程学院,湖北 武汉430062;湖北省软件工程工程技术研究中心,湖北 武汉 430062
  • 2. 湖北大学 计算机与信息工程学院,湖北 武汉430062;智慧政务与人工智能应用湖北省工程研究中心,湖北 武汉 430062
  • 3. 湖北大学 计算机与信息工程学院,湖北 武汉430062;湖北省软件工程工程技术研究中心,湖北 武汉 430062;智慧政务与人工智能应用湖北省工程研究中心,湖北 武汉 430062
  • 4. 湖北大学 计算机与信息工程学院,湖北 武汉430062;智慧政务与人工智能应用湖北省工程研究中心,湖北 武汉 430062;湖北省教育信息化工程技术研究中心,湖北 武汉 430062
  • 5. 湖北大学 计算机与信息工程学院,湖北 武汉430062;湖北省教育信息化工程技术研究中心,湖北 武汉 430062
  • 折叠

摘要

如今,在社交网络上发表评论已成为公众对社会现象表达态度和立场的主要方式.精准识别社交文本的情感倾向性对于舆情管控、社会维稳等有重要价值.针对传统情感识别模型大多集中于评论的表层语义挖掘,存在分类效果不佳、泛化能力有限等问题,提出了一种基于BERT-BiGRU多模集成学习的深层情感语义识别方法.首先,通过BERT预训练模型获取评论文本的上下文语义特征表示,再结合BiGRU提取深层非线性特征向量,实现单模型下的最优效果;接着,为了使模型效果稳定且多方面表现均衡,基于BERT系列预训练模型训练出表现优异且具有差异化的多个情感分类器;最后,利用数据扰动和投票策略的集成学习方法,实现各模型深层特征的充分融合.实验结果显示:BERT-BiGRU模型相较于其他传统模型,在两个公开数据集(COV19和ChnSenti)上具有更优的情感识别效果.

关键词

情感识别/BERT预训练模型/双向门控循环单元/集成学习/深层特征

引用本文复制引用

基金项目

国家自然科学基金资助项目(61803149)

湖北省重点专项(2022BAA044)

湖北省教育厅科学技术研究计划重点项目(D20201006)

出版年

2023
计算机技术与发展
陕西省计算机学会

计算机技术与发展

CSTPCD
影响因子:0.621
ISSN:1673-629X
参考文献量10
段落导航相关论文