首页|JCapsR:一种联合胶囊神经网络的藏语知识图谱表示学习模型

JCapsR:一种联合胶囊神经网络的藏语知识图谱表示学习模型

扫码查看
知识图谱表示学习是自然语言处理的一项关键技术,现有的知识图谱表示研究主要集中在英语、汉语等语言,而低资源语言的知识图谱表示学习研究还处于探索阶段,如藏语.该文基于前期构建的藏语知识图谱,提出了一种联合胶囊神经网络(JCapsR)的藏语知识图谱表示学习模型.首先,我们使用 TransR模型生成藏语知识图谱的结构化信息表示.其次,采用融合多头注意力和关系注意力的 Transfomer 模型表示藏语实体的文本描述信息.最后,采用JCapsR进一步提取三元组在知识图谱语义空间中的关系,将实体文本描述信息和结构化信息融合,得到藏语知识图谱的表示,相比基线系统,联合胶囊神经网络JCapsR模型提高了在藏语知识图谱上实体链接预测的性能,相关研究为其他低资源语言知识图谱表示学习的拓展优化提供了参考借鉴意义.
JCapsR:A Joint Capsule Neural Network for Tibetan Knowledge Graph Representation Learning
The knowledge graph representation learning is a key technology in the field of natural language process-ing.The existing research on knowledge graph representation mainly focuses on English and Chinese.This paper proposes a Joint Capsule Neural Network(JCapsR)model for Tibetan knowledge graph representation based on Ti-betan knowledge graph.Firstly,we use the TransR model to generate a structured information representation of the Tibetan knowledge graph.Secondly,we apply a a Transfomer model incorporating multiple-head attention and rela-tional attention to learn the entity text description information representation.Finally,we fuse the above two repre-sentations by the JCapsR model to obtain the final representation of Tibetan knowledge graph.The experimental re-sults show that the JCapsR model is more effective than the baselines in Tibetan knowledge graph representation learning.

knowledge graph of Tibetanrepresentation learningcapsule neural network

孙媛、梁家亚、陈安东、赵小兵

展开 >

中央民族大学 信息工程学院,北京 100081

国家语言资源监测与研究少数民族语言中心,北京 100081

民族语言智能分析与安全治理教育部重点实验室,北京 100081

藏语知识图谱 表示学习 胶囊神经网络

国家自然科学基金中央民族大学项目中央民族大学项目

61972436GRSCP2023162023QNYL22

2024

中文信息学报
中国中文信息学会,中国科学院软件研究所

中文信息学报

CSTPCDCHSSCD北大核心
影响因子:0.8
ISSN:1003-0077
年,卷(期):2024.38(4)
  • 20