摘要
图是一种基础的数据结构，通常用于描述不同对象之间的关系。现实世界中许多的数据可以通过图来进行建模，如社交网络、生物信息网络、传感器网络等。这些复杂的图数据中通常蕴藏着丰富的知识，因此对于图数据的挖掘受到越来越多的研究人员的重视。图神经网络是目前主流的图数据挖掘工具，它通过聚合邻居信息来更新节点表示从而有效地将图数据和深度学习强大的表征能力结合在一起。 对于图神经网络的研究主要有两条路线:空域方法和谱域方法。空域图神经网络通过设计不同的消息传递机制，在空域进行图卷积操作，从而有效的聚合邻居信息;谱域图神经网络则利用图的频谱（即特征值）和基函数（即特征向量）在谱域设计卷积算子。通过将图信号处理理论和神经网络方法相结合，谱域图神经网络已经在图表示学习领域产生了巨大的影响。从信号处理的角度，谱域图神经网络是处理高维图信号的基础工具，其可以看成是一维时序数据和二维图像数据的信号处理方法的一种推广。从神经网络的角度，谱域方法和空域方法之间存在着紧密的联系，两种研究路线能够相互借鉴、相互促进。 尽管已经取得了很大的进展，但是将图数据变换到谱域进行处理并不是一个简单的任务，主要存在以下三方面的挑战:（1）如何从特征向量中学习到鲁棒的表示以保持谱域图神经网络的稳定性？（2）如何自适应的利用特征值中的复杂频率信息来学习有效的图表示？（3）如何提升谱域图神经网络的泛化性，防止模型过拟合？针对上述挑战，本文对谱域图神经网络的关键技术展开研究。首先，研究了特征向量编码技术，增强了谱域图神经网络的稳定性;然后，研究了自适应图滤波技术，提升了谱域图神经网络的自适应能力和表达能力;最后，研究了一致性正则训练技术，该方法可以用于支撑图滤波器的训练，提升谱域图神经网络的泛化性。 本论文主要工作与创新贡献如下: 一、针对谱域特征难利用的问题，设计了一个对旋转和反射操作具有不变性的特征感知机。该模型在保留感知机模型高效率特点的同时，还能够从具有坐标和符号歧义性的特征向量中学习到稳定不变的谱表示。随后，采用对比学习将该模型与空域图神经网络相结合，从而提升图神经网络的稳定性。 二、针对谱域频率难确定的问题，考虑不同频率的重要性，设计了一个频率自适应图神经网络。该模型首先利用低通和高通滤波器从节点特征中分离出低频和高频信息，然后利用注意力机制将两类频率信息进行加权重组，从而能够自适应的学习低频和高频信息的重要性，突破了图神经网络的低通滤波限制。最后，通过对滤波器进行近似，将该模型从直推式学习扩展到归纳式学习。 三、针对谱域频率难确定的问题，考虑频率之间的依赖性，设计了一个多变量滤波图神经网络。该模型同时将多个特征值的高维表示输入到自注意力模块中来学习特征值之间的依赖关系，并自适应的选择最重要的依赖信息进行滤波。该模型理论上是之前单变量图滤波器的一种推广，具有更强的拟合能力和表达能力。 四、针对谱域模型难训练的问题，设计了一个基于谱图理论的一致性正则框架。该框架首先对图信号中的高频信息进行增强，然后约束谱域图神经网络在原始数据和增强数据上的预测保持一致，从而有效的利用了大量未标记数据辅助谱域图神经网络对数据中的低频信号进行学习。在大量的半监督数据上的实验结果表明，该框架能够提升谱域图神经网络的泛化性，减轻过拟合现象。
NETL