南京航空航天大学学报

作者：陈慧

单位：南京邮电大学计算机科学与技术学院， 南京，210023；,江苏省大数据安全与智能处理重点实验室， 南京，210023；,；,江苏省大数据安全与智能处理重点实验室， 南京，210023;；

关键词：深度学习;黑盒攻击;贪婪搜索;对抗性训练

基金：国家自然科学基金 61772284 61603197;41571389）资助项目国家自然科学基金（61772284，61603197，41571389）资助项目。

随着深度学习模型在无人驾驶等安全敏感性任务中的广泛应用，围绕深度模型展开的攻防逐渐成为机器学习研究的热点。黑盒攻击是一种典型的攻击场景，在攻击者不知道模型具体使用结构和参数等情况下仍能进行有效攻击，是现实场景中最常用的攻击方法。因此，分析深度学习模型的脆弱性并设计出更加鲁棒的模型来对抗黑盒攻击成为迫切需要。而传统基于单模型的单强度和多强度对抗性训练方法，在抵御黑盒攻击时性能十分有限；基于多模型的集成对抗性训练方法在抵御高强度、多样化攻击样本效果也不理想。本文提出一种基于贪婪强度搜索的混合对抗性训练方法，实验结果表明，所提出的混合对抗性训练能够有效抵御多样化的黑盒攻击，性能优于传统的集成对抗性训练。

来源：2019年第5期

《南京航空航天大学学报》期刊编辑部

查看南京航空航天大学学报杂志2019年第5期