摘要
小样本分类是当前备受关注的一种有监督学习方法，能够有效减少深度学习模型所需标记数据的数量。基于原型度量的小样本分类方法关注度量空间中由少数支持样本获得的原型和查询样本之间的距离度量，然而支持样本的数量有限和不确定性导致原型与样本类簇真实中心的偏移会引起度量误差。为了应对基于原型度量的小样本分类中的挑战，本文开展了基于原型关系优化的小样本分类研究，主要工作如下： 1.为了缓解原型偏移问题，利用多层原型关系网络优化原型度量，提出一种基于注意力调整和多层耦合的原型关系迭代优化网络。该方法涉及三个基本过程：（1）通过多层原型构造形成多层原型度量，充分利用支持样本中的可用信息；（2）利用层内调整和层间耦合原型关系网络，优化层内和层间原型关系，弱化不确定性的影响；（3）在多级层内调整和层间耦合原型关系网络级联结构中引入了原型细化机制，在多级迭代过程中不断优化原型关系以提升原型的鉴别能力。广泛的实验结果表明，本方法相较于基线（原型网络）有巨大提升，并在相同设置下达到了先进水平。 2.为了缓解原型关系迭代优化过程中由于标记数据稀缺导致的模型过拟合问题，提出一种基于限定交叉注意力下的互信息最大化原型关系约束优化网络，该方法由基于限定交叉注意力的层间原型关系感知模块和基于互信息最大化的原型关系约束优化组成。基于限定交叉注意力的层间原型关系感知模块旨在通过每一层的主导原型限定优化感知的层间原型关系，降低与主导原型无关的异常值可能产生的负面影响。利用感知的层间原型关系中包含的异常值对主导原型进行优化会导致过拟合问题，因此通过基于互信息最大化的原型关系约束优化来确保感知层间原型关系的有效性，保证其与主导原型的目标一致性。广泛的实验结果表明，本方法能有效缓解过拟合问题，提升模型泛化能力。
NETL