首页|Re-GAN:残差生成式对抗网络算法

Re-GAN:残差生成式对抗网络算法

Re-GAN: residual generative adversarial network algorithm

扫码查看
目的 生成式对抗网络(generative adversarial network,GAN)是一种无监督生成模型,通过生成模型和判别模型的博弈学习生成图像.GAN的生成模型是逐级直接生成图像,下级网络无法得知上级网络学习的特征,以至于生成的图像多样性不够丰富.另外,随着网络层数的增加,参数变多,反向传播变得困难,出现训练不稳定和梯度消失等问题.针对上述问题,基于残差网络(residual network,ResNet)和组标准化(group normalization,GN),提出了一种残差生成式对抗网络(residual generative adversarial networks,Re-GAN).方法 Re-GAN在生成模型中构建深度残差网络模块,通过跳连接的方式融合上级网络学习的特征,增强生成图像的多样性和质量,改善反向传播过程,增强生成式对抗网络的训练稳定性,缓解梯度消失.随后采用组标准化(GN)来适应不同批次的学习,使训练过程更加稳定.结果 在Cifar10、CelebA和LSUN数据集上对算法的性能进行测试.Re-GAN的IS(inception score)均值在批次为64时,比DCGAN(deep eonvolutional GAN)和WGAN(Wasserstein-GAN)分别提高了5%和30%,在批次为4时,比DCGAN和WGAN分别提高了0.2%和13%,表明无论批次大小,Re-GAN生成图像具有很好的多样性.Re-GAN的FID(Fréchet inception distance)在批次为64时比DCGAN和WGAN分别降低了18%和11%,在批次为4时比DCGAN和WGAN分别降低了4%和10%,表明Re-GAN生成图像的质量更好.同时,Re-GAN缓解了训练过程中出现的训练不稳定和梯度消失等问题.结论 实验结果表明,在图像生成方面,Re-GAN的生成图像质量高、多样性强;在网络训练方面,Re-GAN在不同批次下的训练具有更好的兼容性,使训练过程更加稳定,梯度消失得到缓解.

史彩娟、涂冬景、刘靖祎

展开 >

华北理工大学人工智能学院,唐山063210

图像生成 深度学习 卷积神经网络 生成式对抗网络 残差网络 组标准化

国家自然科学基金华北理工大学杰出青年基金河北省研究生示范课项目

61502143JQ201715KCJSX2019097

2021

中国图象图形学报
中国科学院遥感应用研究所,中国图象图形学学会 ,北京应用物理与计算数学研究所

中国图象图形学报

CSTPCDCSCD北大核心
影响因子:1.111
ISSN:1006-8961
年,卷(期):2021.26(3)
  • 10
  • 1