首页|基于交互式学习与多头注意力机制的金融文本情感分类

基于交互式学习与多头注意力机制的金融文本情感分类

扫码查看
原文链接
  • NETL
  • NSTL
  • 万方数据
  • 维普
针对现有的金融文本情感分类模型在对文本表示进行建模时忽略了上下文语义和情感倾向之间交互关系的问题,本文提出了基于交互式学习与多头注意力机制的金融文本情感分类模型(Interactive learn?ing and multi-head attention mechanism,ILMA).该模型首先利用BERT模型来获得上下文和情感倾向信息的词嵌入表示;然后分别使用两个双向GRU(BiGRU)神经网络来学习上下文语义和情感倾向信息的随机依赖性;之后利用交互式学习机制和多头注意力机制来学习文本语境语义与情感倾向信息之间的交互表示;最后将生成的上下文语义和情感倾向信息的表示序列进行连接后,作为softmax分类器的输入进行分类.在四个公开的金融数据集上进行了实验,将ILMA模型与其他方法进行比较,结果表明ILMA模型的分类准确性相对于其他模型有了显著提升.
Financial Text Sentiment Classification Based on Interactive Learning and Attention Mechanism

吴峰、周军、谢聪、姬少培

展开 >

南宁师范大学师园学院,南宁 530226

广西农业职业技术大学,南宁 530005

中国电子科技集团公司第三十研究所,成都 610041

金融文本情感分类 上下文语义 情感倾向 交互式学习 多头注意力机制

广西壮族自治区高等教育本科教学改革工程项目(2021)广西中青年教师科研基础能力提升项目(2021)广西壮族自治区高等学校中青年教师科研基础能力提升项目(2021)广西壮族自治区高等学校中青年教师科研基础能力提升项目(2022)

2021JGA4252021KY17362021KY17312022KY1643

2022

10.3969/j.issn.1007-1423.2022.11.001

现代计算机
中大控股

现代计算机

影响因子：0.292
ISSN：1007-1423
年,卷(期)：2022.28(11)
  • 8