首页|基于概率推理的不确定性知识图谱表示学习方法研究

基于概率推理的不确定性知识图谱表示学习方法研究

樊新宇

基于概率推理的不确定性知识图谱表示学习方法研究

樊新宇1
扫码查看

作者信息

  • 1. 宁夏大学
  • 折叠

摘要

随着大数据的飞速发展,各种大型的通用知识图谱和领域知识图谱被构建出来,这些图谱在智能交通、搜索引擎、决策支持等应用中起到了重要作用。但在知识图谱构建过程中,始终存在着难以去除的噪声和错误,即不确定性,如何在对不确定性的知识图谱进行表示与推理逐渐引起广泛的关注。传统的知识图谱表示学习方法专注于提高模型对三元组的建模能力,忽略了三元组之间逻辑规则的推理与建模,同时模型可解释性不足。对此,本文提出了基于概率推理的不确定性知识图谱表示学习方法。具体研究工作包括以下几个方面: (1)针对Analogy模型对不确定性知识图谱的表示学习效果不佳,同时缺乏可解释性的问题。本文通过概率软逻辑对Analogy的实例化规则重新建模,以此丰富三元组的关系事实,从而增强模型的预测能力。具体做法是将修改后的Softplus激活函数Clip-Softplus用于本文的模型,使得得分函数的似然值映射到[0,1]区间,从而模型可以对三元组中的置信度进行建模。在CN15k数据集上的置信度预测实验中,与UKGE模型对比,MSE提升了16.61%。此外,Clip-Analogy(C-Analogy)还进行了关系事实排序、关系事实分类等实验,效果均优于基准模型。 (2)为解决KnowledgeGraphEmbeddingwithIterativeGuidancefromSoftRules(RUGE)模型自动提取的软规则不准确或不完整,导致模型预测效果较低的问题。本文提出了基于规则嵌入增强的不确定性知识图谱表示学习模型enhancedRulEsGuidedEmbedding(REGE)。该模型受CrossE模型的启发,利用交互矩阵对RUGE模型的三元组重新建模,同时本文将关系和规则进行联合嵌入建模,增强了规则的表示与推理。另外,本文使用规则挖掘工具AMIE3挖掘出三元组隐含的关系,再对这些关系进行等间隔分组实例化同时进行人工筛选,剔除错误的规则。再将这些规则进行实例化后送入模型进行表示学习。由于该模型对软规则进行了增强,所以模型在对不确定性知识图谱表示学习的性能得到了提升。实验表明REGE模型线性增益NDCG分别提升了14.5%、1.6%、1.5%,指数增益NDCG分别提升了14.6%、1.5%、1.8%。 (3)将C-Analogy模型和REGE模型应用于知识图谱补全任务中,通过链接预测检测模型的性能。实验表明,本文提出的两个模型效果均优于基线。此外,本文将两个模型应用于电影知识图谱补全系统中,并进行了系统和功能测试。该系统的数据集主要来自于MovieLens电影数据。系统内部使用Cypher语言查询Neo4j图数据库中的数据,并利用Vue实现了前端的可视化功能。

关键词

知识图谱/表示学习/概率推理/规则挖掘

引用本文复制引用

授予学位

硕士

学科专业

计算机技术

导师

李贯峰;张鹏

学位年度

2023

学位授予单位

宁夏大学

语种

中文

中图分类号

TP
段落导航相关论文