首页|基于车型分类模型的网络剪枝算法研究

基于车型分类模型的网络剪枝算法研究

冉光金

基于车型分类模型的网络剪枝算法研究

冉光金1
扫码查看

作者信息

  • 1. 贵州大学
  • 折叠

摘要

深度越深、结构越复杂的深度卷积神经网络车型分类模型分析推断能力越准确,这必然对承载设备的存储和运算能力有很高的要求。车辆分类系统通常装载在关键路段的中小型设备上,硬件条件受到限制难以部署。研究神经网络模型剪枝是降低模型大小和计算量最直接有效的方法。本文主要对车型神经网络模型的压缩方法进行研究,研究的重点是在采用灵敏度分析下的范数和几何中位数剪枝算法,研究其在Cifar10公开数据模型及车型分类上的表现,结合最优计算方法来减少运行模型时的计算量和存储空间。本文的主要工作内容分为以下四点: (1)建立数据集Car-class以及模型获取。首先参考Cifar10数据集,使用网络爬虫技术加人工分类的方式建立大小为6151的Car-class数据集。设计数据导入方法CarDataset将数据处理为神经网络所需格式。以精度控制epoch的方法对MobileNet、ResNet56和ResNet110进行训练,最终使Cifar100和Car-class模型的平均识别精度分别达到93.41%和92.98%。 (2)针对多层剪枝各个卷积层重要程度不等,无法有效设置各卷积层的剪枝率,引入灵敏度范数滤波器评价准则剪枝算法。该方法使用范数准则,逐层分析每个卷积层剪枝率对整个网络的影响,进而获取每层剪枝比例进行剪枝。实验结果表明,该方法模型剪枝效果更好,同剪枝率下比等比例剪枝精度更高。 (3)针对范数评价标准对部分滤波器计算偏移以及可能失效的情况,本文引入了灵敏度几何中位数滤波器剪枝算法。该方法使用卷积层中距离所有滤波器欧式距离最短的滤波器作为几何中心,以滤波器与几何中心的欧式距离衡量滤波器重要性进行灵敏度分析和剪枝。实验结果表明,该方法在中等深度的神经网络剪枝效果良好。 (4)使用本文算法对车型分类模型进行最优化剪枝。分别对本文的三种方法进行灵敏度分析,之后根据灵敏度分析剪枝率对模型精度的影响,以最佳剪枝率对车型分类模型进行剪枝。实验结果表明,本文的方法在车型分类模型中的表现良好,其中MobileNet剪枝率达到40%,精度下降不到1%,而ResNet56甚至能进行50%剪枝,精度损失控制在5%以内。

关键词

车型分类/卷积神经网络/滤波器剪枝/灵敏度分析

引用本文复制引用

授予学位

硕士

学科专业

电子科学与技术

导师

李良荣

学位年度

2022

学位授予单位

贵州大学

语种

中文

中图分类号

TP
段落导航相关论文