计算机研究与发展2024,Vol.61Issue(5) :1336-1347.DOI:10.7544/issn1000-1239.202330485

联合语义分割的自监督单目深度估计方法

Self-Supervised Monocular Depth Estimation Method for Joint Semantic Segmentation

宋霄罡 胡浩越 宁靖宇 梁莉 鲁晓锋 黑新宏
计算机研究与发展2024,Vol.61Issue(5) :1336-1347.DOI:10.7544/issn1000-1239.202330485

联合语义分割的自监督单目深度估计方法

Self-Supervised Monocular Depth Estimation Method for Joint Semantic Segmentation

宋霄罡 1胡浩越 2宁靖宇 2梁莉 2鲁晓锋 1黑新宏1
扫码查看

作者信息

  • 1. 西安理工大学计算机科学与工程学院 西安 710048;人机共融智能机器人陕西省高校工程研究中心(西安理工大学) 西安 710048
  • 2. 西安理工大学计算机科学与工程学院 西安 710048
  • 折叠

摘要

研究深度估计和语义分割的图像之间的互利关系,提出了 一种联合语义分割的自监督单目深度估计方法USegDepth.语义分割和深度估计任务通过共享编码器,实现语义引导.为了进一步提高编码器的跨多任务性能,设计了多任务特征提取模块,堆叠该模块构成共享编码器,解决有限感受野和缺乏跨通道交互导致的模型特征表示能力欠佳问题,进一步提升模型精度.同时,提出跨任务交互模块,通过双向的跨域信息交互细化特征表示,提升深度估计表现,特别是光度一致性监督有限的弱纹理区域和物体边界.通过在KITTI数据集上的训练和全面评估,实验结果显示所提的USegDepth模型方法的均方相对误差相比于SGDepth降低了 0.176个百分点,在阈值为1.253的阈值精度达到了 98.4%,证明了 USegDepth在深度预测上具有较高的准确率.

Abstract

In this paper,the mutually beneficial relationship between depth estimation and semantic segmentation is investigated,and a self-supervised monocular depth estimation method for joint semantic segmentation USegDepth is proposed.The shared encoder for semantic segmentation and depth estimation is implemented to achieve semantic guidance.To further improve the across multiple tasks performance of the encoder,a multi-task feature extraction module is designed.The module is stacked to generate the shared encoder,solving the poor feature representation problem of the model due to limited receptive field and lack of cross-channel interaction,and the model accuracy is improved further.And a cross-task interaction module is proposed for bidirectional cross-domain information interaction to refine the depth features,improving depth estimation performance,especially in weak texture regions and object boundaries with limited luminosity consistency supervision.Through training and evaluation on KITTI dataset,the experimental results show that the mean square relative error of USegDepth is reduced by 0.176 percentage points compared with that of SGDepth,and the threshold accuracy reaches 98.4%at a threshold value of 1.253,proving the high accuracy of USegDepth in depth prediction.

关键词

自监督深度学习/深度估计/语义分割/多任务联合/共享编码器

Key words

self-supervised deep learning/depth estimation/semantic segmentation/multi-task association/shared encoder

引用本文复制引用

基金项目

国家自然科学基金面上项目(52372418)

国家自然科学基金面上项目(62076201)

国家自然科学基金联合基金(U1934222)

陕西省重点研发计划(2022GY-245)

出版年

2024
计算机研究与发展
中国科学院计算技术研究所 中国计算机学会

计算机研究与发展

CSTPCDCSCD北大核心
影响因子:2.649
ISSN:1000-1239
参考文献量36
段落导航相关论文