摘要
深度神经网络由于其出色的性能,被广泛地部署在各种环境下执行不同的任务,与此同时它的安全性变得越来越重要.近年来,后门攻击作为一种新型的攻击方式,对用户构成严重威胁.在训练阶段,攻击者对少量样本添加特定后门模式并标记为目标类以学习后门模型.后门模型可以以很高的概率将加入后门模式的测试样本识别为目标类,同时不影响正常样本的识别.用户通常无法掌握后门的先验信息,因此很难察觉后门攻击的存在.该文提出一种预训练模型辅助的后门样本自过滤方法,以防御后门攻击,包括目标类检测与后门样本自过滤两个部分.在第一部分,利用预训练模型提取样本特征,采用k近邻算法进行目标类检测;在第二部分,从非目标类样本中学习部分分类模型,之后多次执行"后门样本过滤"与"模型学习"的交替计算,在较好过滤后门样本的同时,也得到了完整的良性模型.
基金项目
上海市科委科技创新行动计划(21511102605)
国家自然科学基金(61902235)
维普
万方数据