首页|多源特征自适应融合网络的高分遥感影像语义分割

多源特征自适应融合网络的高分遥感影像语义分割

扫码查看
目的 在高分辨率遥感影像语义分割任务中,仅利用可见光图像很难区分光谱特征相似的区域(如草坪和树、道路和建筑物),高程信息的引入可以显著改善分类结果.然而,可见光图像与高程数据的特征分布差异较大,简单的级联或相加的融合方式不能有效处理两种模态融合时的噪声,使得融合效果不佳.因此如何有效地融合多模态特征成为遥感语义分割的关键问题.针对这一问题,本文提出了一个多源特征自适应融合模型.方法 通过像素的目标类别以及上下文信息动态融合模态特征,减弱融合噪声影响,有效利用多模态数据的互补信息.该模型主要包含3个部分:双编码器负责提取光谱和高程模态的特征;模态自适应融合模块协同处理多模态特征,依据像素的目标类别以及上下文信息动态地利用高程信息强化光谱特征,使得网络可以针对特定的对象类别或者特定的空间位置来选择特定模态网络的特征信息;全局上下文聚合模块,从空间和通道角度进行全局上下文建模以获得更丰富的特征表示.结果 对实验结果进行定性、定量相结合的评价.定性结果中,本文算法获取的分割结果更加精细化.定量结果中,在ISPRS(International Society for Photogrammetry and Remote Sensing)Vaihingen和GID(Gaofen Image Dataset)数据集上对本文模型进行评估,分别达到了90.77%、82.1%的总体精度.与DeepLab V3+、PSPNet(pyramid scene parsing network)等算法相比,本文算法明显更优.结论 实验结果表明,本文提出的多源特征自适应融合网络可以有效地进行模态特征融合,更加高效地建模全局上下文关系,可以广泛应用于遥感领域.
Multi-source features adaptation fusion network for semantic segmentation in high-resolution remote sensing images

张文凯、刘文杰、孙显、许光銮、付琨

展开 >

中国科学院空天信息创新研究院,北京 100190

中国科学院网络信息体系重点实验室, 北京 100190

中国科学院大学,北京 100190

中国科学院大学电子电气与通信工程学院,北京 100190

展开 >

语义分割 遥感影像 多模态 模态自适应融合 全局上下文聚合

国家自然科学基金

61725105

2022

中国图象图形学报
中国科学院遥感应用研究所,中国图象图形学学会 ,北京应用物理与计算数学研究所

中国图象图形学报

CSTPCDCSCD北大核心
影响因子:1.111
ISSN:1006-8961
年,卷(期):2022.27(8)
  • 2
  • 17