摘要
日常生活中许多复杂的交互关系都可以抽象为异质图,异质图神经网络已被广泛的用来从复杂的异质图中提取信息。尽管人工设计的异质图神经网络在处理异质图信息提取方面取得了一定的成效,但设计一个高效的异质图神经网络架构仍然是一个具有挑战性的课题,这不仅需要深厚的领域知识,还涉及到大量的时间投入以优化网络的超参数。近年来,自动化的异质图神经网络架构搜索算法的出现,为这一难题提供了解决方案。该算法能够在预定义的搜索空间内自动探索并确定针对特定任务的最优网络架构,且其性能往往超越了人类专家设计的神经网络模型。然而,传统的异质图神经网络架构搜索方法存在一个显著的局限性:它们通常针对特定任务进行优化,而缺乏泛化能力,难以直接应用于新的任务或不同类型的问题。这意味着,每当面临新的任务时,都需要重新进行耗时且效率低下的架构搜索和模型训练。鉴于此,本文旨在提出创新的算法框架以解决异质图架构搜索过程中的泛化和效率问题。 为了克服异质图架构搜索模型在面对新任务时缺乏泛化性的问题,本文提出了一种基于对比元强化学习的高效异质图架构搜索方法,称为CM-HGNAS。该方法旨在为多样化的任务高效地搜索出高性能的异质图神经网络架构。首先,本文使用基于梯度的元学习方法让搜索模型可以有效的从元训练任务中学习到元知识,以此可以快速的适应新任务。其次,由于在元训练阶段包含了不同类型的任务,因此本文在原来元强化学习的基础上进一步引入了对比学习方法来统一所有任务的评估标准,从而增强了搜索模型对各种类型任务的泛化能力。 为了解决异质图架构搜索模型搜索效率低下的问题,本文设计了一个更高效的基于元对比学习的异质图架构搜索算法,并在此基础上提出一个架构生成模型,称为 MCLG-HGNAS。首先,本文构建了一批异质图任务-优良性能架构和异质图任务-拙劣性能架构样本对,再利用元对比学习方法让架构生成模型学习到异质图任务数据集-架构关系的特征空间。当面对新任务时,架构生成模型根据任务数据集特征,就可以直接输出该任务的最优架构。 通过在异质图任务数据集上的实验表明,本文提出的模型成功的泛化到了新任务上,并且优于现有的先进异质图神经网络方法和异质图神经网络架构搜索方法。此外消融实验也验证了本文提出的搜索模型和生成模型各部分的有效性。