摘要
针对铁轨缺陷检测神经网络模型参数多、计算量大的问题,提出了一种基于知识蒸馏的轨道检测轻量化模型及其训练方法,该网络模型由六层卷积层和三层全连接层构成,将训练好的DenseNet模型作为教师网络,采用知识蒸馏的方法指导训练,使得轻量级模型的训练更加简单,也保证了准确性.在模型的训练阶段加入最小化锐度SAM优化算法,提高了模型的泛化能力,然后将VggNet、ResNet、DenseNet等模型当作对比实验,评价模型优劣.经过知识蒸馏训练的自定义轻量级模型在铁轨检测数据集中的平均准确率为 97.3%,且模型参数大小仅为0.738 M,均优于其他网络模型,可部署在众多移动终端中.
基金项目
国家自然科学基金(52062016)
江西省重点研发计划项目(20203BBE53034)
江西省教育厅科技重点项目(GJJ190296)