首页|基于积分损失的对抗样本生成算法

基于积分损失的对抗样本生成算法

扫码查看
原文链接
  • 万方数据
  • 维普
随着计算机性能的飞速提升和数据量的爆炸式增长,深度学习在越来越多的领域取得了惊人的成果.然而,研究者们发现深度网络也存在对抗攻击.在图像分类领域,攻击者可以通过向原始的图片上加入人为设计的微小的扰动,来使得深度神经网络分类器给出错误的分类,而这种扰动对于人类来说是不可见的,加入了扰动之后的图片就是对抗样本.基于梯度攻击的对抗样本生成算法(projected gradient descent,PGD)是目前有效的攻击算法,但是这类算法容易产生过拟合.该文提出了积分损失快速梯度符号法,利用积分损失来衡量输入对于损失函数的重要性程度,规避梯度更新方向上可能陷入局部最优值的情况,不仅进一步提升了对抗样本的攻击成功率,而且也增加了对抗样本的迁移性.实验结果证明了所提方法的有效性,可以作为测试防御模型的一个基准.
Adversarial Examples Generation Algorithm Based on Integrated Loss

章进、李琦

展开 >

南京邮电大学 计算机学院,江苏 南京 210023

对抗样本 白盒攻击 积分梯度 卷积神经网络 深度学习

科技部重点研发计划

2019YFB2101704

2022

10.3969/j.issn.1673-629X.2022.07.001

计算机技术与发展
陕西省计算机学会

计算机技术与发展

CSTPCD
影响因子：0.621
ISSN：1673-629X
年,卷(期)：2022.32(7)
  • 8