首页|基于多通道的语义信息融合交互方法

基于多通道的语义信息融合交互方法

扫码查看
提出一种基于多通道的语义信息融合交互方法,使用不同的网络结构来提取原始语音信息、图像信息以及行为信息的语义特征,通过隐马尔可夫模型加强不同特征之间的交互,使用注意力机制建立语义信息融合,捕获了深层语义特征.在IEMOCAP数据集上验证了所提方法的有效性.
Semantic information fusion interaction method based on multi-channel
Therefore,in order to solve the existing problem of single interaction channel,this paper proposes a semantic information fusion interaction method based on multi-channel,using different network structures to extract the semantic features of original voice information,image information and behavioral information,through hidden Markov the model strengthens the interaction between different features,uses the attention mechanism to establish semantic information fusion,and captures deep semantic features.The effectiveness of the method proposed in this article is verified on the IEMOCAP data set.

multi-channelsemantic featuresfusion interactionattention mechanism

王出航、陈丹

展开 >

长春师范大学计算机科学与技术学院,吉林长春 130026

长春师范大学资产与实验室管理处,吉林长春 130026

多通道 语义特征 融合交互 注意力机制

吉林省教育厅科学技术研究项目吉林省科技厅重点研发项目

JJKH20220839KJ20210203161SF

2024

长春工业大学学报
长春工业大学

长春工业大学学报

影响因子:0.282
ISSN:1674-1374
年,卷(期):2024.45(2)