首页|可见光-红外特征交互与融合的YOLOv5目标检测算法

可见光-红外特征交互与融合的YOLOv5目标检测算法

扫码查看
原文链接
  • 国家科技期刊平台
  • NETL
  • NSTL
  • 万方数据
目标检测是自动驾驶系统的关键技术，普通RGB目标检测算法在夜间和恶劣气候等场景往往表现一般，融合可见光和红外信息的目标检测算法因而受到诸多研究关注。现有方法通常融合结构复杂，且忽视了模态间信息交流的重要性。对此，本文以YOLOv5为基本框架，提出一种可见光-红外特征交互与融合的目标检测算法，使用一种新的主干网络跨阶段局部(CSPDarknet53-F)，采用双分支结构分别提取可见光和红外特征。然后，通过特征交互模块重构各模态的信息成分和比例，提升模态间信息交流，使可见光和红外特征进行更充分的融合。在FLIR-aligned和M3FD数据集上的大量实验证明，本文算法使用的CSPDarknet53-F在协同利用可见光和红外信息方面更加出色，提升了模型精度，同时，拥有对抗光照强度骤变的鲁棒性。
YOLOv5 object detection algorithm with visible-infrared feature interaction and fusion
Object detection is the key technology of the autonomous driving system,but object detection algorithms based on RGB often perform poorly in scenarios such as nighttime and severe weather.Therefore,the object detection algorithms fusing visible and infrared information have begun to receive a lot of research attention.However,the existing methods usually have complex fusion structures and ignore the importance of information exchange between modalities.In this paper,we take YOLOv5 as the basic framework,and propose an object detection algorithm with visible-infrared feature interaction and fusion.It uses a new backbone network,CSPDarknet53-F,which uses a dual branch structure to extract visible and infrared features,respectively,and then reconstructs the information components and proportions of each mode through feature interaction modules to improve the information exchange between modalities so that visible and infrared features can be more fully integrated.Extensive experiments on the FLIR-aligned dataset and the M3FD dataset show that the CSPDarknet53-F used in our algorithm is more excellent in terms of synergistically utilizing visible and infrared information,which improves the detection accuracy of the model and has robustness against sudden changes in light intensity.

visible imagesinfrared imagesfeature fusioninteractionYOLOv5

解宇敏、张浪文、余孝源、谢巍

展开 >

华南理工大学自动化科学与工程学院,广东广州 510640

岳阳高澜节能装备制造有限公司,湖南岳阳 414000

华南师范大学物理与电信工程学院,广东广州 510006

可见光图像 红外图像 特征融合 交互 YOLOv5

国家自然科学基金广东省自然科学基金广东省自然科学基金清远市科技计划佛山市重点领域科技攻关计划顺德区核心攻关项目广州市科技计划江门市基础与应用基础研究项目

618031612022A15150118872023A15150301192023DZX006202000100681220302180001742021020203792020030103080008999

2024

10.7641/CTA.2023.20475

控制理论与应用
华南理工大学 中国科学院数学与系统科学研究院

控制理论与应用

CSTPCD北大核心
影响因子：1.076
ISSN：1000-8152
年,卷(期)：2024.41(5)
  • 33