网络安全与数据治理2024,Vol.43Issue(11) :29-36.DOI:10.19358/j.issn.2097-1788.2024.11.006

结合BERT语义融合和关键词特征提取的方面级情感分类研究

Combining BERT semantic fusion and keyword feature extraction for aspect-level sentiment classification

胡耀庭 韩雨桥 石宇航 高宣 彭玉青
网络安全与数据治理2024,Vol.43Issue(11) :29-36.DOI:10.19358/j.issn.2097-1788.2024.11.006

结合BERT语义融合和关键词特征提取的方面级情感分类研究

Combining BERT semantic fusion and keyword feature extraction for aspect-level sentiment classification

胡耀庭 1韩雨桥 1石宇航 1高宣 1彭玉青1
扫码查看

作者信息

  • 1. 河北工业大学 人工智能与数据科学学院,天津 300401
  • 折叠

摘要

方面级情感分类旨在确定句子中给定方面词的情感极性.该任务先前提出的方法无法提取语义信息丰富的上下文初始表示向量,同时也不能精确地捕获局部关键特征的范围.因此,提出了一种结合BERT语义融合(BERTSF)和关键词特征提取(KFE)的方面级情感分类模型(KFE-BERTSF).BERTSF通过门控融合函数融合BERT编码器的高层语义信息,以提取语义信息更加丰富的上下文初始表示向量.KFE通过动态阈值划分句子的局部上下文和非局部上下文,并利用句法距离掩码(SDMask)和距离感知注意力(ADA)提取两个区域的局部关键特征.基于三个数据集上的实验结果表明,KFE-BERTSF取得了比基准模型更好的成绩.

Abstract

Aspect-level sentiment classification aims to determine the sentiment polarity of a given aspect term in a sentence.Pre-vious methods for this task fail to extract semantically rich initial contextual representation vectors and cannot precisely capture the range of local key features.Therefore,this paper proposes KFE-BERTSF,an aspect-level sentiment classification model that com-bines BERT semantic fusion(BERTSF)and keyword feature extraction(KFE).BERTSF integrates high-level semantic informa-tion from the BERT encoder using a gating fusion function to extract semantically richer initial contextual representation vectors.KFE divides the sentence into local and non-local contexts using dynamic thresholds,and employs syntax distance mask(SD-Mask)and distance-aware attention(ADA)to extract local key features from both regions.Experimental results on three datasets show that KFE-BERTSF outperforms benchmark models.

关键词

方面级情感分类/BERT编码器/关键词特征/局部上下文聚焦

Key words

aspect-level sentiment classification/BERT encoder/keyword feature/local context focus

引用本文复制引用

出版年

2024
网络安全与数据治理
华北计算机系统工程研究所(中国电子信息产业集团有限公司第六研究所)

网络安全与数据治理

影响因子:0.348
ISSN:2097-1788
段落导航相关论文