基于机器学习、人工神经网络方法的人工智能技术及其相关应用,目前正得到前所未有的发展机遇。近年来,随着高性能计算技术的升级、各类优化算法的完善、5G网络的商用化,智能物联网技术的发展,以人工智能技术为基础的产品研究与应用正得到了国内外各行各业的重视。近年来从中央政府到地方机构,各级政府正在大力建设智慧城市、人工智能产业园区,行业巨头也正在逐渐完善各自在人工智能领域的产业链布局,创新型企业也正在加大对人工智能垂直领域的深度融合。然而事物总是一分为二的,当前深度神经网络研究中出现的对抗样本技术带来了人工智能研究领域中的新问题。对抗样本是指在原样本中通过人为增加某些少量的特定干扰,可以在人类无法准确分辨差异的情况下使得某些人工智能模型产生错误的判定结果。这种误判现象对于人工智能研究领域却是灾难性的。特别是针对应用较为广泛的人脸识别、无人驾驶、恶意软件检测等技术领域,相关研究的安全问题引起人们的普遍重视。论文主要就对抗样本技术在当前值得关注的恶意软件检测、以及自动驾驶等领域的应用展开研究,并提出相应的攻击与防御方法。论文的主要工作和创新点包括以下几个方面内容:（1）针对对抗样本技术进行了综述。其中,包括与对抗样本技术相关的基础概念、对抗样本的生成方法、防御对抗样本的策略、以及与对抗样本相关的实际应用技术。论文中详细分析了六种经典的对抗样本攻击方法以及五种防御性策略;同时,介绍了当前对抗样本技术新颖的拓展性领域,综合、详细的讨论了对抗样本技术的进展。（2）针对对抗样本技术对恶意软件检测器的攻击进行研究。提出一种对抗性纹理恶意软件攻击方法,即ATMPA方法。该攻击方法利用基于梯度下降和L-范数优化算法,将转化后的恶意软件样本图片进行微小的扰动,最终致使基于机器学习的可视化检测方法失效。在开源数据集上进行的测试结果表明,只需微弱的干扰就能使得多种基于机器学习的检测方法失效;同时,ATMPA在攻击不同的检测方法之间还能获得较高的转移率。攻击实验结果表明,通过微弱的干扰,可以获得100%的成功率。此外,通过对基于机器学习的不同检测方法之间的可转移性测试,该方法能够获得88.7%的最大可转移率以及74.1%的平均可转移效率。（3）研究了利用对抗样本技术强化恶意软件检测器和提高检测准确度的问题。提出一种基于对抗性训练的恶意软件可视化检测方法,即Visual-AT方法。不同于传统的基于数字签名、静态代码分析、以及动态代码分析的检测方法,Visual-AT方法不仅可以提高恶意软件在分析判别中的检测效率,而且可以防御恶意软件对抗样本的可能攻击、以及与之相关变种样本的潜在威胁,并达到防止零日攻击的效果。通过对两种开源的恶意软件数据库进行检测,实验结果表明Visual-AT方法不仅可以达到防止零日攻击的目的,而且还能获得最高97.73%的准确率,以及96.25%的平均准确率。同时,在多项性能的评价指标上Visual-AT方法也明显优于现有的几种检测方法。（4）研究了对抗样本技术在自动驾驶系统中的安全问题。结合现有的对抗性技术与图像缩放技术提出一种基于对抗样本的自动驾驶交通标示攻击方法,即AE-Sign方法。该方法分析了自动驾驶技术的安全性问题,指出了基于深度学习方法在实际应用中存在的误判现象。AE-Sign方法通过图像缩放技术,在原始实景图中利用对抗样本方法添加微弱的干扰信息,可以在不破坏原图可识别性的情况下达到干扰交通标示识别系统的目的,由此导致自动驾驶系统失误。通过开源实时数据集的实验测试,AE-Sign攻击方法表现出较高的准确度,较少的干扰可以达到100%的成功率,并且,平均转移率达到86.5%。相比同类型攻击方法,AE-Sign攻击方法不仅具有较强的灵活性与泛化能力,同时还能保持干扰样图与原始样本图的最大一致性,大大提高攻击的可靠性与可信度。（5）针对对抗样本技术以及自动驾驶技术的应用,设计并实现一个对抗样本交通标志攻击系统原型。系统原型首先搭建一个简单的自动驾驶模拟系统,再结合现有的对抗样本攻击方法进行攻击测试。系统按照模拟自动驾驶的实景方式进行攻击,初步实现了基于对抗样本技术针对自动驾驶系统的攻击环境。论文中详细介绍了攻击系统的构架、以及各个功能模块的实现。最后,通过实时路况数据的测试,将实验结果以图、表的形式展示出攻击系统的整体效果。