摘要
图神经网络虽然在多个领域的应用有效且广泛，但其复杂结构提高了算法的解释难度，而可解释性对模型的验证和改进至关重要。虽然目前已有针对图神经网络的解释，但现有的可解释性模型一是未能将决策结果公平地归因到参与决策的因素上，二是仅针对节点贡献度进行评估，难以对子图级别的贡献性进行评估，忽略多个节点相互作用的关系。三是虽然少数可进行多粒度解释，但复杂度难以接受。 为了解决上述挑战，本文首次提出了基于强化学习的子图级别的图神经网络可解释模型(SUPExplainer)。该模型在无先验知识的情况下，通过强化学习机制有效选择重要子图来表示图的关键结构信息，通过裁剪的近端策略优化(Clip-PPO)来最大化累积奖励，并基于解释的环境中发挥作用。为了公平有效地评估子图贡献度，本文在设计强化学习框架时将Shapley值当作奖励函数，并使用了蒙特卡洛采样方法提高采样效率，减少了计算量。 本文在图分类和节点分类数据集上，使用消融实验、量化实验以及统计检验方法对算法的效果进行检验，同时也进行了收敛性分析和效率分析。结果表明该方法不但能直观显示出解释过程中的重要图结构，而且在合理的时间复杂度上优于一些基线方法，在0.05的显著性水平下显著性有效。它可以为GNN模型提供一个可靠的解释，也对强化学习理论应用于图解释领域有所参考。 最后，为了验证图神经网络的文本分类任务的可解释性效果，本文利用SUPExplainer对比TextGCN、bertGCN和text-levelGCN之间的文本分类效果。实验结果说明:本文提出的解释模型可以直观理解图数据网络的文本分类效果，便于深度学习方法在文本分类任务中得到更好的应用，同时也对增强图神经网络在其他应用领域的可解释性有一定的参考意义。
NETL