现代计算机2022,Vol.28Issue(18) :52-56.DOI:10.3969/j.issn.1007-1423.2022.18.009

基于BERT变种模型的情感分析实现

Implementation of Sentiment Analysis Based on BERT Variant Model

毛银 赵俊
现代计算机2022,Vol.28Issue(18) :52-56.DOI:10.3969/j.issn.1007-1423.2022.18.009

基于BERT变种模型的情感分析实现

Implementation of Sentiment Analysis Based on BERT Variant Model

毛银 1赵俊1
扫码查看

作者信息

  • 1. 四川轻化工大学自动化与信息工程学院,宜宾 644000;人工智能四川省重点实验室,宜宾 644000
  • 折叠

摘要

随着舆论数据的快速增长,情感分析技术在舆论检测中发挥越来越重要的作用.由于文本数据本身的稀疏性和高维性,加上中文语义的复杂性,情感分析面临着巨大挑战.本文提出了基于BERT变种的深度学习模型.首先利用BERT模型将文本编码为词向量,采用权重矩阵对词向量加权,增强语句中情感特征,然后利用BiLSTM提取词向量中上下文特征,利用注意力机制对隐特征向量进行特征加权.经过处理后,利用卷积神经网络提取出文本中重要的局部特征,最后输出到全连接层进行文本的分类.实验表明,相比BERT模型,BiLSTM以及其它文本分类模型,该模型在外卖评论数据集中的精确率明显提高.

关键词

文本分类/BERT模型/特征提取/注意力机制

引用本文复制引用

出版年

2022
现代计算机
中大控股

现代计算机

影响因子:0.292
ISSN:1007-1423
被引量1
参考文献量10
段落导航相关论文