首页|基于单源域的深度无监督域自适应算法研究

基于单源域的深度无监督域自适应算法研究

林磊

基于单源域的深度无监督域自适应算法研究

林磊1
扫码查看

作者信息

  • 1. 南京航空航天大学
  • 折叠

摘要

域自适应是计算机领域的一个重要研究课题,其目的是在样本标签不足的情况下,利用标签丰富的源域解决目标域任务。随着深度学习的发展,只使用现有源域数据和无标签目标域数据训练出高性能的预测模型成为研究热点。本文主要研究域自适应中的单源域无监督域自适应问题,并且深入研究了如何增强对抗学习模型稳定性、增强目标域内结构信息学习和纠正错误伪标签使用。本研究的主要贡献如下: (1)针对目标域标签缺失而导致网络过拟合和未考虑目标域内结构信息的问题,本文提出了基于鲁棒集成网络的无监督域自适应方法。该方法由学生和教师网络两部分组成,学生网络进行标准的域自适应训练,教师网络的更新权重由学生网络提供。学生和教师网络之间使用双网络集成条件对抗损失,用双网络结果提高鉴别器的能力。此外,采用一致性约束平衡学生和教师网络之间的误差。该方法在四个无监督域自适应数据集上进行了大量对比实验,结果证明该方法取得了更好的效果。 (2)针对错误伪标签积累而导致负迁移情况和伪标签未考虑目标域结构的问题,本文提出了基于自纠错伪标签的无监督域自适应方法。该方法从伪标签的选择和更新两个方面来改善这些问题。在伪标签选择阶段,该方法联合考虑源域标签信息与目标域的结构信息,选择更加可靠的伪标签,这一伪标签在充分利用源域可迁移知识的同时不会受限于源域空间,而是更贴合目标域分布空间。在更新阶段,该方法采用自纠错伪标签的思想,利用学生教师模型,将学生网络在伪标签集上的表现反馈于教师网络,实现学生教师同步更新,最终生成最接近目标域的伪标签。四个无监督域自适应数据集上的实验结果证明,该方法在不同域自适应场景下都取得了良好的迁移能力。

关键词

数据集/无监督域自适应/对抗学习/一致性约束/伪标签

引用本文复制引用

授予学位

硕士

学科专业

计算机科学与技术

导师

孙涵

学位年度

2022

学位授予单位

南京航空航天大学

语种

中文

中图分类号

TP
段落导航相关论文