【摘 要】
:
近年来,随着以神经网络为代表的人工智能技术,越来越受到研究人员与大众的追捧,新的科研成果和实际应用不断增多,人工智能本身的安全性问题也逐渐凸显,针对神经网络的对抗样本攻击便是其中有代表性的问题之一。然而,对抗样本这一新兴研究领域,由于理论与技术的不成熟,在实际中的应用尚力有不逮。本文分析了已有的对抗样本攻击方法以及实际攻击场景中的需求,提出了两个为对抗样本实际应用提供帮助的攻击方法。第一个工作是分
论文部分内容阅读
近年来,随着以神经网络为代表的人工智能技术,越来越受到研究人员与大众的追捧,新的科研成果和实际应用不断增多,人工智能本身的安全性问题也逐渐凸显,针对神经网络的对抗样本攻击便是其中有代表性的问题之一。然而,对抗样本这一新兴研究领域,由于理论与技术的不成熟,在实际中的应用尚力有不逮。本文分析了已有的对抗样本攻击方法以及实际攻击场景中的需求,提出了两个为对抗样本实际应用提供帮助的攻击方法。第一个工作是分析集成攻击获得普遍性的机制,提出可以利用集成攻击获得对抗样本的排他性,并将这种排他性攻击扩展到利用相近网络进行攻击的场景中;然后引入基于查询的模型窃取方法,以窃取网络作为相近网络,实现将黑盒转化为半黑盒的过程,进行排他性攻击。至此,完成了一种半黑盒的排他性对抗样本生成方法。而第二个工作,则首先分析了对抗样本中的噪音是包含有信息的这一已有结论,并籍此,创新性地提出可以利用对抗样本的噪音将对抗样本进行分类,预测其是否具备普遍性;本文中,训练了利用噪音预测对抗样本的普遍性存在与否的判别网络,且进行了一系列实验,发现了本文提出的此判别器的诸多性质;接着将对抗样本生成算法,作为使样本向指定方向移动的方法,让对抗样本根据训练好的普遍性判别器,在分类面上进行定向移动,使对抗样本获得更高的普遍性,完成了一种黑盒的基于噪音分类的对抗样本普遍性获取方法。我们的实验表明,第一个工作中,可以在主要攻击网络的攻击成功率基本不变的情况下,生成的对抗样本在我们不希望攻击的网络上,迁移攻击的成功率由60%~70%降至2%以下,具备极高的排他性;而第二个工作中,我们创新性提出的根据噪音预测对抗样本是否具备普遍性的判别器,可以达到90%以上的预测成功率;并根据此判别器,我们进行的普遍性获取操作,可以将对抗样本在黑盒网络上原本至多70%的攻击成功率,提升至90%~97%的水平,普遍性得到显著的提升。基本上,可认为我们所提出的两个方法是有效的,对对抗样本的应用场景的扩大有一定的促进作用。
其他文献
在GitHub中,议题报告(Issues)和分支请求报告(Pull Requests)是项目的两个重要组成部分(本文将议题报告和分支请求报告统称为议题单元)。现有研究证明,议题单元之间的链接在
随着城市化进程的不断深入,县级市的城区范围在不断扩大,人口在不断增加。在这个高速发展的过程中,县级市城乡结合部区域不仅存在大量新建的城市设施,同时也保留老旧面貌,在这个新旧更迭的时期,城乡结合部能够直观地、集中地反映出城市市容环境较脏乱、违章搭建较肆意、流动摊点较密集、倚门出摊较普遍、户外广告较无序等等的突出问题与症结,在城市管理过程中,该区域反映出来的问题具有一定的代表性,这些问题在一定程度上减
二氧化碳是主要的温室气体,但同时又是储量丰富、廉价易得并且可以再生的碳资源,将二氧化碳转化为高附加值的化合物不仅具有极大的经济价值,还能实现良好的生态效益。但由于
随着自动化控制技术的发展,工控系统的网络环境由相对封闭变得不断开放,使得作为工业领域神经中枢的工控系统面临着更严峻的安全形势。Modbus/TCP作为工业领域最重要的协议之一,被广泛应用于石油、电力等国家关键基础设施行业,一旦遭到恶意攻击将造成严重的安全事故。本文进行了基于Modbus/TCP协议的异常检测算法的研究,主要工作包括以下三个方面:(1)针对Modbus/TCP协议的异常检测技术中特征
三羧酸循环是需氧生物体内普遍存在的代谢途径。然而,由于缺乏α-酮戊二酸脱氢酶,蓝细菌需要通过非传统的三羧酸循环途径完成α-酮戊二酸到琥珀酸的代谢。本课题对集胞藻PCC6803中sll1981基因和鱼腥藻PCC7120中all3556基因编码蛋白作了详细研究,以深入理解蓝细菌中的三羧酸循环。蓝细菌α-酮戊二酸至琥珀酸的代谢途径中主要涉及两个关键酶,分别是α-酮戊二酸脱羧酶和琥珀酸半醛脱氢酶。α-酮戊
随着城镇人口的增加,城市生活成为一种普遍的生活方式,城市对人类发展产生越来越大的影响,城市何以繁荣以及可持续发展路径的探索受到关注。在我国,对这些问题的研究,哈尔滨
党的十九届四中全会强调加快建设人民满意的服务型政府,健全国家基本公共服务制度体系,实现公共服务高效化。政府作为公共服务的主要提供者,基层公务员流动是政府公共服务建设中的重要环节,调动基层公务员的工作积极性,加强基层公务员队伍建设,提高政府治理能力有重要意义。但从实际情况和相关研究来看,基层公务员的流动性普遍较弱,其内部横向交流和纵向交流产生的工作效益较小,影响了政府公共服务能力的创造性发挥。因此,
随着科学技术的发展,无障碍设施已经在我们的生活中逐步完善,但是盲人的安全出行仍然是一个急需解决的问题。我国现有盲人群体数量巨大,如何运用信息技术提高该群体的生活质量,越来越受到社会各界的关注。基于计算机视觉的导盲技术通过盲道检测提升了盲人获取信息的能力,具有很高的应用价值。盲道检测的关键在于准确获取盲道的两条边界线,本文根据图像中的盲道特征,利用二值图像的Gabor特征进行了盲道识别软件的算法设计
图像目标检测的目标是确定图像中每个对象实例的空间位置和范围。目标检测作为图像理解和计算机视觉的基石,是解决复杂或高层次视觉任务的基础,被应用到很多的实际的业务场景。目前,现有的一步法目标检测算法存在多尺度特征融合不充分、视觉目标特征未对齐和对不同尺度特征未设置独立的预测输出等三个问题。因此,本文的主要研究目的是分析一步法目标检测算法的这些问题的成因,并对每个问题提出针对性的改进方案,最终提高模型的
苗族习惯法在苗族社会中,一直是非常重要的社会规范。苗族在贵州境内有着十分久远的居住历史,在贵州是人数最多的少数民族。在贵州省的西部,很多苗族村寨都具有历史悠久的习惯法文化,并且这些文化至今仍有保留。苗族人民通过长期的实践和传承,形成了比较全面的习惯法内容,这些内容在苗族人民社会生产生活中发挥了重大的作用。苗族内部由很多支系,几乎所有的支系在贵州省都可以找到,所以贵州省拥有研究苗族习惯法得天独厚的条