首页期刊导航|智能安全
期刊信息/Journal information
智能安全
智能安全

陈小前

季刊

2097-2075

znaq2019@163.com

010-66716457

100071

北京市丰台区丰台东大街53号

智能安全/Journal Artificial Intelligence Security
正式出版
收录年代

    基于对抗补丁的深度神经网络解释定向攻击

    王子明宋倩倩孔祥维
    1-10页
    查看更多>>摘要：深度神经网络在高风险领域的广泛应用使得对黑盒模型进行解释的需求增加.为此,许多解释方法已被用于辅助可信决策,但这些方法通常假设在安全环境中运行,在实际环境中却可能遭受攻击,这对解释方法的可信性和鲁棒性提出了新的挑战.本文提出了一种基于对抗补丁的深度神经网络解释攻击算法,实现了对解释效果的定向攻击,同时维持深度神经网络最初的原始预测.该方法对单目标和多目标攻击通用,并在不同解释算法之间具有一定的迁移性.为了更好地评估解释器的鲁棒性,本文提出平均位置重要性指标,并结合前人提出的3种指标进行定量评估.实验结果显示,诸如Grad-CAM等基于显著性热图的解释器都可以显著地被提出的基于对抗补丁的深度神经网络解释攻击算法误导.具体而言,解释攻击后平均位置重要性指标提升5～10倍,交并比、直方图比较和斯皮尔曼相关性等指标均下降30％以上.本文提出的方法实现了定向攻击深度神经网络解释器,并可用于解释器的鲁棒性检验,从而增强决策中深度神经网络的可信度.

    深度神经网络可解释人工智能图像分类解释攻击

      原文链接:
    • 万方数据
    • 维普

    马尔可夫信号博弈中信息与行动的联合设计

    石泉华立业苏小龙李鹏...
    11-20页
    查看更多>>摘要：在多智能体强化学习中,信息设计是智能体通过发送信号的方式影响其他智能体的行动,以最大化自身回报的一种博弈方法,广泛应用于交易市场、经济领域.现有信息设计方法有一些特定的限制条件,即环境中仅允许接收方可以采取行动,发送方只发送信号而没有要执行的行动.这一假设使得该理论模型很难适用于更多现实场景.首先,建立一种更符合现实场景的马尔可夫信号博弈模型,允许发送方不仅能够发送信号而且可以行动.然后,提出一种带有服从约束的信号-行动梯度(Signaling-Action Gradient with Obedience Constraint,SAGOC)算法,用于计算接收方愿意服从的发送方最优信号和行动策略.该算法不仅解决了信号对双方行动策略更新影响的非稳定性问题,还解决了接收方对发送信号的服从性问题.实验结果表明,相对于基准算法,SAGOC算法在同时允许发送方发送信号和执行行动的场景中更为有效.

    信息设计马尔可夫信号博弈多智能体强化学习

      原文链接:
    • 万方数据
    • 维普

    一种跨域的视频时空攻击方法

    刘占鹏王元斌周倜
    21-28页
    查看更多>>摘要：当前,深度学习在视频识别领域被广泛应用.然而,在实际应用中,深度神经网络面临着对抗性攻击的威胁.目前研究多集中于图像模型的攻击方法,对视频识别模型的攻防研究尚不充分.提出了一种多层时空攻击方法.该方法通过使用图像模型来完成对视频识别模型的攻击,通过多层特征融合与视频帧之间的对抗交互,从空间和时间层面对视频生成对抗性扰动.多层时空攻击方法由空间攻击模块和时间攻击模块组成.此外,为进一步提升攻击的有效性和鲁棒性,引入了自适应噪声和自适应损失权重机制.在UCF101和Kinetics-400数据集上进行了广泛的试验验证,试验结果表明,与现有技术相比,该方法的攻击成功率显著提升.

    黑盒攻击视频识别跨域攻击

      原文链接:
    • 万方数据
    • 维普

    PoisonEEG:基于频率变换的EEG后门攻击新方法

    宋鑫浩何德轩刘轩豪郑伟龙...
    29-38页
    查看更多>>摘要：由于深度学习模型的巨大成功,基于脑电的脑机接口取得了广泛的应用.然而,深度学习模型容易受到后门攻击,特别是在图像和自然语言领域,后门攻击已取得显著成果.然而,由于脑电数据的复杂性、不稳定性以及数据分布的不均衡性,针对脑电数据设计隐秘而复杂的攻击仍然具有挑战性.现有的后门攻击方法存在一定限制,即需要参与模型的训练阶段才能保持高隐蔽性.为了解决这些限制,本文提出了一种名为PoisonEEG的后门攻击方法,旨在无需参与模型训练阶段即可操纵脑机接口将脑电数据错误分类到目标类别.具体而言,PoisonEEG后门攻击包括3个阶段:首先,为目标类别选择一个样本作为触发器;其次,通过强化学习为触发器学习最优的注入电极和频段的掩码;最后,基于学习到的掩码对投毒集数据和触发器的频谱进行线性插值.本文在情绪识别和运动想象两个脑电任务上进行了实验,结果表明:PoisonEEG攻击方法不仅有效,而且具有较高的隐蔽性和鲁棒性,能够在复杂的脑电数据环境中实现对模型的操控.

    脑机接口脑电后门攻击强化学习频率变换

      原文链接:
    • NETL
    • NSTL
    • 万方数据

    基于模型梯度的通用控制策略泛化性提升预训练方法

    郝逸凡杨扬彭伟王菲菲...
    39-48页
    查看更多>>摘要：使用强化学习为机器人训练控制策略的做法已得到广泛应用.其中,作为一种适用于不同形态机器人的单一策略模型方法,通用控制策略克服了传统方法中需为不同形态机器人独立训练控制策略的限制,能够有效节约计算成本并具备对未知形态的一定泛化能力,但这种方法存在过拟合严重和泛化性不足等问题.为提升通用控制策略的泛化性,本文提出一种基于模型梯度的通用控制策略预训练方法.该方法基于训练样本对应的模型参数梯度更新越大则代表该样本包含更多相对于模型未知的信息的原理,以模型在训练时的梯度为指标,构建可以代表形态空间的通用控制策略预训练形态集,有效提升了通用控制策略的泛化能力.通过在整个形态空间中随机生成的形态上的迁移实验,该方法展示了其在提高通用控制策略泛化能力方面的显著优势.

    机器人通用控制策略泛化性模型梯度

      原文链接:
    • 万方数据
    • 维普

    面向强干扰对抗的无人艇智能识别算法鲁棒性测试评估方法

    宋胜男罗荣白高颐杨星...
    49-57页
    查看更多>>摘要：针对水面无人艇在实际环境中面临的海上复杂环境干扰和人为攻击,为提高智能识别算法的可靠性和安全性,本文提出了一种面向强干扰对抗的无人艇智能识别算法鲁棒性测试评估方法.该方法主要包括无人艇智能识别算法鲁棒性评估的指标体系、测试评估流程、模拟海上海况和天气条件干扰,以及人为算法攻击的测试数据集生成方法.通过仿真验证结果,证实了该测试评估方法的有效性,为可靠性测试提供更全面和准确的评估.

    水面无人艇智能识别算法鲁棒性测试评估方法

      原文链接:
    • 万方数据
    • 维普

    基于遗传算法优化概率神经网络算法的海上移动目标分类与识别

    曹瑾刘晓芬王炳垚
    58-64页
    查看更多>>摘要：为维护我国海洋安全利益,对海上移动目标分类与识别进行研究,进而对海上移动目标实施有效追踪和管理.首先,根据海上移动目标运动规律,对其特征指标进行提取,得到方向速度、平均速度、最大速度、速度的标准差、平均加速度和航迹跨度范围6个海上移动目标特征指标;其次,采用基于模拟退火算法的模糊C均值聚类算法对海上移动目标特征指标数据进行分析,得到6个海上移动目标特征指标的聚类中心;最后,提出基于遗传算法优化概率神经网络算法,对海上移动目标进行识别.仿真结果表明,该方法与K近邻(K-Nearest Neighbor,KNN)算法、决策树(Decision Tree,DT)算法等机器学习算法相比,可以进行更有效的分类与识别,精度更高.

    海洋安全移动目标分类与识别遗传算法概率神经网络

      原文链接:
    • 万方数据
    • 维普

    无人系统脆弱性挖掘及一体化安全防护框架

    孙轲李玉峰谢少荣郑向雨...
    65-71页
    查看更多>>摘要：智能、网联部组件在提升无人系统智能化、集群化的同时,也使无人系统面临愈发严峻的网络安全风险.智能、网联部组件的部署使得物理域与信息域融合,网络安全风险可传播至物理域,导致物理域功能安全与网络安全交织.以无人系统为研究对象,分析智能部组件的网络脆弱性(漏洞、后门等)及其危害,梳理漏洞挖掘相关技术,并列举相关漏洞利用策略;分析无人系统的功能安全与网络安全一体化安全防护需求,指出其挑战与基于动态-异构-冗余(Dynamic Heterogeneous Redundancy,DHR)架构的解决途径.

    无人系统漏洞挖掘功能安全与网络安全一体化防护动态-异构-冗余架构

      原文链接:
    • 万方数据
    • 维普

    AI辅助的智能系统安全性测试技术

    陈永康李虎赵重阳况晓辉...
    72-80页
    查看更多>>摘要：以深度学习技术为核心的智能系统在经济社会各领域广泛应用,然而其安全性问题日益凸显.通过安全性测试及时发现智能系统存在的安全缺陷成为当前智能系统安全保障的重要途径.首先,从智能系统安全性测试需求切入,剖析并总结了智能系统存在的安全性问题及其测试难点;其次,围绕AI辅助的智能系统安全性测试,分别针对测试基准构建和测试用例生成两个安全性测试关键流程,进行了相关研究工作的对比和总结;最后,依据对现有研究工作的整理总结,探讨并展望了AI辅助的智能系统安全性测试技术的未来研究方向.

    人工智能智能系统安全性测试测试流程

      原文链接:
    • 万方数据
    • 维普

    图像对抗样本检测与防御方法研究进展

    秦书晨王娟朱倪宏陈杨...
    81-95页
    查看更多>>摘要：深度神经网络在图像识别等领域取得了显著成就,但其对对抗性攻击的脆弱性对模型的安全性和可靠性构成了严重威胁.为了应对这一挑战,研究者们提出了众多图像对抗样本的检测与防御方法.将现有的方法归纳为检测方法、防御方法及检测与防御结合方法三类,并从域分类视角出发,对各类方法进行了细致的子类划分.分析了这些方法的原理、优势及局限性,为相关领域的研究者提供了比较全面的技术概览.最后,总结了对抗样本检测与防御领域当前面临的挑战,并在跨域检测防御联合框架的构建、自动化技术的引入等方面提出了具体的建议与展望.

    深度神经网络图像识别对抗样本检测与防御

      原文链接:
    • 万方数据
    • 维普