计算机时代2023，Issue(4) ：16-22,28.DOI:10.16644/j.cnki.cn33-1094/tp.2023.04.004

语音识别中的Conformer模型压缩研究

Research on Conformer model compression in speech recognition

卢江坤 许鸿奎 张子枫 周俊杰 李振业 郭文涛
计算机时代2023，Issue(4) ：16-22,28.DOI:10.16644/j.cnki.cn33-1094/tp.2023.04.004
✕
  • NETL
  • NSTL
  • 维普
  • 万方数据

语音识别中的Conformer模型压缩研究

Research on Conformer model compression in speech recognition

卢江坤 1许鸿奎 2张子枫 1周俊杰 1李振业 1郭文涛1
扫码查看

作者信息

  • 1. 山东建筑大学信息与电气工程学院,山东 济南 250101
  • 2. 山东建筑大学信息与电气工程学院,山东 济南 250101;山东省智能建筑技术重点实验室
  • 折叠

摘要

针对使用Conformer模型的语音识别算法在实际应用时设备算力不足及资源缺乏的问题,提出一种基于Conformer模型间隔剪枝和参数量化相结合的模型压缩方法.实验显示,使用该方法压缩后,模型的实时率(real time factor,RTF)达到0.107614,较基线模型的推理速度提升了16.2％,而识别准确率只下降了1.79％,并且模型大小也由原来的207.91MB下降到72.69MB.该方法在模型准确率损失很小的情况下,较大程度地提升了模型的适用性.

关键词

深度学习/模型压缩/模型量化/模型剪枝/Conformer

引用本文复制引用

基金项目

山东省重大科技创新工程项目(2019JZZZY010120)

山东省重点研发计划(2019GSF111054)

出版年

2023
计算机时代
浙江省计算技术研究所　浙江省计算机学会

计算机时代

影响因子：0.411
ISSN：1006-8228
参考文献量2
段落导航相关论文