首页|双阶段信息蒸馏的轻量级图像超分辨率网络

双阶段信息蒸馏的轻量级图像超分辨率网络

Lightweight image super-resolution network via two-stage information distillation

扫码查看
目的 在图像超分辨率(super resolution,SR)任务中采用大尺寸的卷积神经网络(convolutional neural net-work,CNN)可以获得理想的性能,但是会引入大量参数,导致繁重的计算负担,并不适合很多计算资源受限的应用场景.为了解决上述问题,本文提出一种基于双阶段信息蒸馏的轻量级网络模型.方法 提出一个双阶段带特征补偿的信息蒸馏模块(two-stage feature-compensated information distillation block,TFIDB).TFIDB 采用双阶段、特征补偿的信息蒸馏机制,有选择地提炼关键特征,同时将不同级别的特征进行合并,不仅提高了特征提炼的效率,还能促进网络内信息的流动.同时,TFIDB引入通道关注(channel attention,CA)机制,将经过双阶段信息蒸馏机制提炼的特征进行重要性判别,增强对特征的表达能力.以TFIDB为基础构建模块,提出完整的轻量级网络模型.在提出的网络模型中,设计了信息融合单元(information fusion unit,IFU).IFU将网络各层级的信息进行有效融合,为最后重建阶段提供准确、丰富的层级信息.结果 在5个基准测试集上,在放大倍数为2时,相较于知名的轻量级网络 CARN(cascading residual network),本文算法分别获得了 0.29 dB、0.08 dB、0.08 dB、0.27 dB 和0.42 dB 的峰值信噪比(peak singal to noise ratio,PSNR)增益,且模型参数量和乘加运算量明显更少.结论 提出的双阶段带补偿的信息蒸馏机制可以有效提升网络模型的效率.将多个TFIDB进行级联,并辅以IFU模块构成的轻量级网络可以在模型尺寸和性能之间达到更好的平衡.

李明鸿、常侃、李恒鑫、谭宇飞、覃团发

展开 >

广西大学计算机与电子信息学院,南宁 530004

广西多媒体通信与网络技术重点实验室,南宁 530004

超分辨率(SR) 卷积神经网络(CNN) 信息蒸馏 宽激活 通道关注(CA)

国家自然科学基金国家自然科学基金广西壮族自治区自然科学基金

61761005617610072016GXNSFAA380154

2021

中国图象图形学报
中国科学院遥感应用研究所,中国图象图形学学会 ,北京应用物理与计算数学研究所

中国图象图形学报

CSTPCDCSCD北大核心
影响因子:1.111
ISSN:1006-8961
年,卷(期):2021.26(5)
  • 2
  • 4