重庆理工大学学报2023,Vol.37Issue(17) :173-179.DOI:10.3969/j.issn.1674-8425(z).2023.09.020

一种基于知识蒸馏的轨道检测轻量化模型

A lightweight model of track detection based on knowledge distillation

汤文亮 曾建杨 何文晶
重庆理工大学学报2023,Vol.37Issue(17) :173-179.DOI:10.3969/j.issn.1674-8425(z).2023.09.020

一种基于知识蒸馏的轨道检测轻量化模型

A lightweight model of track detection based on knowledge distillation

汤文亮 1曾建杨 1何文晶1
扫码查看

作者信息

  • 1. 华东交通大学 信息工程学院,南昌 330013
  • 折叠

摘要

针对铁轨缺陷检测神经网络模型参数多、计算量大的问题,提出了一种基于知识蒸馏的轨道检测轻量化模型及其训练方法,该网络模型由六层卷积层和三层全连接层构成,将训练好的DenseNet模型作为教师网络,采用知识蒸馏的方法指导训练,使得轻量级模型的训练更加简单,也保证了准确性.在模型的训练阶段加入最小化锐度SAM优化算法,提高了模型的泛化能力,然后将VggNet、ResNet、DenseNet等模型当作对比实验,评价模型优劣.经过知识蒸馏训练的自定义轻量级模型在铁轨检测数据集中的平均准确率为 97.3%,且模型参数大小仅为0.738 M,均优于其他网络模型,可部署在众多移动终端中.

关键词

深度学习/知识蒸馏/图像增强/图像识别/优化算法

Key words

deep learning/knowledge distillation/image enhancement/image recognition/optimization algorithm

引用本文复制引用

基金项目

国家自然科学基金(52062016)

江西省重点研发计划项目(20203BBE53034)

江西省教育厅科技重点项目(GJJ190296)

出版年

2023
重庆理工大学学报
重庆理工大学

重庆理工大学学报

CSTPCD北大核心
影响因子:0.567
ISSN:1674-8425
参考文献量7
段落导航相关论文