首页|结合BERT语义融合和关键词特征提取的方面级情感分类研究

结合BERT语义融合和关键词特征提取的方面级情感分类研究

扫码查看
方面级情感分类旨在确定句子中给定方面词的情感极性.该任务先前提出的方法无法提取语义信息丰富的上下文初始表示向量,同时也不能精确地捕获局部关键特征的范围.因此,提出了一种结合BERT语义融合(BERTSF)和关键词特征提取(KFE)的方面级情感分类模型(KFE-BERTSF).BERTSF通过门控融合函数融合BERT编码器的高层语义信息,以提取语义信息更加丰富的上下文初始表示向量.KFE通过动态阈值划分句子的局部上下文和非局部上下文,并利用句法距离掩码(SDMask)和距离感知注意力(ADA)提取两个区域的局部关键特征.基于三个数据集上的实验结果表明,KFE-BERTSF取得了比基准模型更好的成绩.
Combining BERT semantic fusion and keyword feature extraction for aspect-level sentiment classification
Aspect-level sentiment classification aims to determine the sentiment polarity of a given aspect term in a sentence.Pre-vious methods for this task fail to extract semantically rich initial contextual representation vectors and cannot precisely capture the range of local key features.Therefore,this paper proposes KFE-BERTSF,an aspect-level sentiment classification model that com-bines BERT semantic fusion(BERTSF)and keyword feature extraction(KFE).BERTSF integrates high-level semantic informa-tion from the BERT encoder using a gating fusion function to extract semantically richer initial contextual representation vectors.KFE divides the sentence into local and non-local contexts using dynamic thresholds,and employs syntax distance mask(SD-Mask)and distance-aware attention(ADA)to extract local key features from both regions.Experimental results on three datasets show that KFE-BERTSF outperforms benchmark models.

aspect-level sentiment classificationBERT encoderkeyword featurelocal context focus

胡耀庭、韩雨桥、石宇航、高宣、彭玉青

展开 >

河北工业大学 人工智能与数据科学学院,天津 300401

方面级情感分类 BERT编码器 关键词特征 局部上下文聚焦

2024

网络安全与数据治理
华北计算机系统工程研究所(中国电子信息产业集团有限公司第六研究所)

网络安全与数据治理

影响因子:0.348
ISSN:2097-1788
年,卷(期):2024.43(11)