基于对抗攻击技术的ReLU神经网络鲁棒性验证方法

来源 :华东师范大学 | 被引量 : 0次 | 上传用户:xianfaxianfa
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度神经网络(DNN)的鲁棒性比以往任何时候都受到更多的关注。这是因为在AI应用程序领域,DNN在安全攸关的程序(例如自动驾驶和身份验证控制)中被广泛采用。这些应用场景需要神经网络满足一定的鲁棒性,对细微扰动具有一定的抗干扰能力。为了解决这个问题,就需要严格地验证神经网络是否满足鲁棒性。而形式化方法已被证明有效地为DNN的鲁棒性提供可证明的认证。但是,由于验证问题固有的计算复杂性,它们或是遇到了可伸缩性不足的问题,或是遇到了精度方面的问题。在本文中,我们提出了一种新颖的以攻击为指导的方法,可以有效地验证神经网络的鲁棒性,并实现了验证工具Agrify。我们方法的新颖之处在于,我们使用现有的攻击方法来生成相对粗略的对抗样本,通过使用粗略对抗样本中的信息,达到简化最终验证问题的目的。特别的是,我们专注于具有Re LU激活函数的神经网络,这种网络已广泛应用于解决分类问题。我们结合了梯度攻击的高效性和形式化方法的精确性,在神经网络鲁棒性验证问题上找到了一个新的平衡————在不损失计算精度的情况下更加高效的验证神经网络。我们利用梯度攻击生成相对粗糙的对抗样本,利用其中的有效信息通过符号区间分析技术计算神经元的边界值,最后利用更紧的边界值构造一个更为简洁的MILP模型,通过求解该模型以达到验证神经网络鲁棒性的目的。为进行评估本文方法的有效性,我们将其与目前最先进的三个验证工具(MIPVer-ify,Neurify,Venus)做了对比,实验结果表明,我们的方法比基于约束解决方案的验证工具的性能最高高出69倍,同时可以计算出最小对抗扰动的对抗样本。对于那些经过对抗训练的网络,这种改进尤其重要。
其他文献
为了进一步改善房屋结构抗震性能,本文以某房屋主建筑工程为例,对该工程的建筑框架结构及参数尺寸进行调整。该调整方案以刚度比、建筑结构技术作为优化工具,通过参数数值计算,加强纵向抗震性能,综合各项因素,确定参数控制方案。统计结果表明,本文提出的增加混凝土墙体厚度、混凝土翼墙厚度两种方案,刚度比均在1.3左右,符合抗震优化设计要求,对此类型房屋建筑抗震性能优化设计研究具有一定帮助。
A:自然寿命是指生物从出生到死亡的自然时间,一般是根据生物学规律推算出来的。有科学家认为,动物的自然寿命是其生长期的57倍。例如,狗的生长期为2年,其寿命是1015年;人类的生长期是2025年,人的自然寿命是100175岁。另外,研究者根据实验观察,发现各种动物细胞的分裂次数是有规律的,细胞分裂到一定的次数就会衰老和死亡。细胞分裂
期刊
[背景介绍]2020年春天,举国上下,团结一致,抗击新冠肺炎疫情,全国师生"停课不停学、停课不停研"。在疫情面前,为人师者应该带领学生读懂"社会"这本深刻的教科书,从关注最新时政热点出发,引领学生多角度发现、分析和解决社会问题。跨学科教学意在跨越学科界限,将不同课程的优点结合在一起,链接学生的碎片化知识,使学生在更加广阔的领域展开深入学习。
期刊
期刊
目的通过解剖学和临床研究,探讨微创腰椎前路腹膜外入路的理想显露方法。方法尸体解剖:成人防腐尸体标本21具,行左侧腹直肌旁纵切口掀开三层腹肌,观察腹膜外间隙和腹膜特点,经腹膜外入路显露L2~S1节段椎间盘,观察大血管与椎间盘的位置关系。影像学测量:收集100例成人腹部CT扫描,在L2~S1节段的腹前壁测量腹膜外脂肪与腹直肌外缘和腹壁中线的距离。收集150例成人腰椎MR检查,在L2~S1节段测量大血管与椎间盘前中线的距离。临床应用:采用微创前路腹膜外入路行腰椎融合术56例,男25例,女31例;年龄29~71岁
气相贝克曼重排催化反应是实现己内酰胺清洁生产的重要途径。已有研究证明TS-1钛硅分子筛在气相贝克曼重排反应中的催化活性要优于目前工业中常使用的催化剂S-1全硅分子筛。本文以研发TS-1高效催化剂及其催化气相贝克曼重排反应过程为目的,开展了TS-1的化学改性及其活性评价研究,包括以下两部分内容。第一部分探究了TS-1催化气相贝克曼重排反应的活性中心。对比相似硅钛比不同种的钛硅分子筛在气相贝克曼重排反
初中数学习题课可深化巩固学生对已学知识的理解,锻炼学生的数学思维能力,与新授课交相呼应,起到二次夯实的作用,也可作为评价手段促使学生及时查漏补缺,可使教师明确学生知识的薄弱点,进而开展针对性的教学。通过查阅文献发现:当前初中数学习题课教学中存在部分教师教学观念陈旧、学生对习题课不感兴趣、教师题目筛选不够典型、教学方式比较单一、缺乏对学生主体性地位的关注、习题课效果不佳等问题。而思维导图具有形象化、
学位
边疆治理是国家治理体系和治理能力现代化的重要组成部分,备受学术界的关注,形成了一系列学术成果,成为极具特色的研究领域。文章运用Cite space软件,对CNKI数据库中有关边疆治理研究的425篇论文进行知识图谱分析,通过分析可以看到,随着边疆问题的凸显,已经涌现了一批核心作者,形成了一批核心研究机构以及核心发文期刊,边疆治理的内容得到不断丰富,理论研究不断深化,但仍然存在着边疆治理研究发展不平衡
6月11日,国网江苏徐州供电公司配电运检人员通过配网调度管理系统(OMS)申报10 k V马刘线停电检修计划。系统内置的配网停电计划自助平衡功能模块经过校核后,发现存在重复停电问题,并在线推送给设备管理部门审批。配网停电计划自助平衡功能模块能精准评估和审批停电计划。停电需求单位只需点击、选择相应的配网设备,即可申报停电计划。模块从电网安全可靠、客
期刊