摘要
伴随着科技的进步，人工智能已经渗透到人类生活的方方面面。为了提高对新数据的学习能力，深度学习需要大量的标注数据和不断重复的训练。人工智能的最终目的之一是超越人类，快速学习是人工智能的一个重要特征，从而迎来了小样本学习的诞生。小样本学习专注于从少数标注样本中进行学习。基于优化的小样本学习方法可以快速地对新任务进行学习，但计算成本高昂。基于度量的小样本学习方法具有思路简单、测试迅速的特点，但在新任务中的泛化性能不佳。 针对上述问题，我们围绕基于优化的模型无关元学习算法和基于度量的图神经网络元学习方法开展研究，并提出相应的改进方法。本文具体包括以下三项研究工作: (1)提出了一种与任务无关的一阶元学习方法(First-orderTaskAgnosticMeta-learning，TA-Reptile)。在进行优化学习器的学习过程中，模型无关元学习算法的更新策略涉及到二阶导数，同时存在过度训练的问题，导致模型对新任务的泛化能力较差。因此我们采用一阶梯度的更新策略，省去了二阶导成本;同时引入任务熵作为先验知识，熵越高则随机性越高，因此在模型的参数更新前，最大化任务熵;在训练结束后，最小化任务熵，确保模型对该任务存在明确的偏向性。在基准数据集omniglot和miniImageNet上实验验证了该方法的有效性。 (2)提出了一种基于边分类的图元学习框架(MetaEdge-LabelingGraphNeuralNetwork，Meta-EGNN)。传统的图神经网络过度关注数据间的分布关系，忽略了样本自身的信息，如节点与边标记等，且当测试阶段的任务与元训练中的任务存在很大差异时，模型的泛化性能则会降低;同时目前少有元学习方法在非欧几里得空间中的应用。我们设计了一个图元学习框架，将一阶优化元学习思想与图神经网络结合，模型经过训练后，获得相关先验知识，在少量有标签的样本的基础上通过对边标签的预测实现对新节点的分类。在基准数据集miniImageNet和tieredImageNet上进行了实验，验证了模型的有效性。 (3)将图元学习框架Meta-EGNN应用到乳腺癌病理图像数据集BreakHis的诊断中。由于医学影像资料的标注难度大、获取成本高，很难达到深度学习模型的训练要求，因此我们尝试借助小样本学习方法辅助诊断，以帮助提高乳腺癌诊断的准确性。Meta-EGNN将病理图像以图的形式表现，边表示图像间的相似度，在训练迭代后模型获得对边标签的预测能力，从而获得节点的分类结果。基于BreakHis数据集设计5-way小样本分类实验，与现有多种深度学习方法相比效果显著。 综上所述，我们围绕模型无关的小样本学习方法和图元学习小样本方法展开了研究，并将其应用于乳腺癌病理图像分类中。针对每项研究内容，我们都提出了相应的改进方法，并进行了实验验证，效果良好。
NETL