首页|基于防退化策略的多通道闭环BiLSTM在文本分类中的应用研究

基于防退化策略的多通道闭环BiLSTM在文本分类中的应用研究

扫码查看
双向长短时记忆(BiLSTM)及其变体能够处理可变长度序列,由于文本的复杂语义信息和文本数据嵌入维度的高维性,BiLSTM表现出低层次网络学习能力较弱,通过叠加网络层学习高层次的特征表示,容易出现网络退化问题.为解决这些问题,提出一种闭环BiLSTM模块用于丰富每一层网络结构隐状态的语义信息表示,同时采用残差连接和增强稀疏表示策略来优化模块,稀疏化隐状态特征向量减缓网络退化问题;最后利用加权融合的多通道词嵌入,将语义信息和情感信息在低维张量下实现融合来丰富输入层的文本表示.对情感分类和问题分类的数据集进行了实验验证,实验表明,提出模型在捕捉文本的情感信息表达上具有出色的性能,具有较好的分类精度和鲁棒性.
Multi-channel closed-loop BiLSTM with anti-degradation strategy for text classification

孙中宇、龚红仿、狄俊珂

展开 >

长沙理工大学 数学与统计学院,长沙410114

文本分类 闭环BiLSTM 优化策略 多通道词嵌入

国家自然科学基金湖南省教育厅重点项目

6197205518A145

2021

计算机应用研究
四川省电子计算机应用研究中心

计算机应用研究

CSTPCDCSCD北大核心
影响因子:0.93
ISSN:1001-3695
年,卷(期):2021.38(6)
  • 2
  • 2