首页|基于粒球计算与特征图编码的Deep CNN模型鲁棒方法研究

基于粒球计算与特征图编码的Deep CNN模型鲁棒方法研究

庄志国

基于粒球计算与特征图编码的Deep CNN模型鲁棒方法研究

庄志国1
扫码查看

作者信息

  • 1. 重庆邮电大学
  • 折叠

摘要

深度卷积神经网络(ConvolutionalNeuralNetwork,CNN)在图像识别等诸多任务中的出色表现依赖于高质量的标注数据,而数据标注过程中却不可避免地出现错误标注。研究表明,深度神经网络的表现极易受样本标签噪声和内容噪声的影响,这给其在安全敏感领域的广泛部署带来了巨大隐患。因此,研究提高深度神经网络针对标签噪声和内容噪声的鲁棒性具有重要的现实意义。本文以图像识别任务为切入点,主要做了如下工作: 1.针对深度神经网络模型所需的海量高维训练样本中存在的图像标签噪声问题,本文提出一种基于粒球计算的图像标签噪声处理算法。采用粒球计算方法将输入神经网络的批次样本特征向量进行聚类并用粒球来近似描述其特征空间,再以粒球及其标签代替原样本作为分类器输入进行模型训练。此外,反向传播策略上的改进使得模型可以即插即用地嵌入任意神经网络模型并进行端到端训练,经验回放机制的使用则进一步提升了模型的训练效率。实验表明,当CIFAR-10数据集的标签错误率达到50%时,嵌入该模块后的DenseNet121相比原模型分类精度要高出15%以上。 2.为降低图像内容噪声对于模型的干扰,本文从数据处理角度提出一种基于粒球计算的图像内容噪声处理算法。首先借助粒球计算理论对简单线性迭代聚类算法进行改进得到新的像素聚类算法,并用该算法对数据集图片进行处理,然后使用高斯分布函数对聚类结果进行采样,将采样结果代替原图作为神经网络模型的输入。实验表明,经该算法处理后深度学习模型在面对高斯噪声、椒盐噪声,以及对抗样本等多种类型的干扰时,鲁棒性能均有明显提升。 3.本文还从模型结构角度提出一种基于注意力机制的神经网络特征图增强-去噪融合算法来应对图像内容噪声。首先基于特征图通道间的依赖关系进行加权重新编码,再将其与特征图去噪算法融合成为一个独立模块,从而能够以组件形式嵌入到现有神经网络模型中。实验结果表明,使用上述方法对原网络做模块嵌入后,深度学习模型在面对干扰时的分类精度有不同程度提升。

关键词

深度卷积神经网络/鲁棒性/图像识别/粒球计算/特征图

引用本文复制引用

授予学位

硕士

学科专业

计算机技术

导师

陈子忠;戴大伟

学位年度

2023

学位授予单位

重庆邮电大学

语种

中文

中图分类号

TP
段落导航相关论文