深度神经网络测试覆盖率与对抗样本间的相关性研究

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:x737101013
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习逐渐走进更多人的生活,深度学习系统的广泛应用在给人类生活带来便利的同时也会带来一些隐患,在一些涉及人身安全和财产安全的安全攸关领域的应用中,深度神经网络必须得到充分的测试以尽可能地消除隐患。深度神经网络作为深度学习系统的基础应当得到充分的测试。然而深度学习系统与传统软件测试存在着本质区别,所以传统软件测试技术无法直接应用于深度神经网络测试。近年来众多相关领域的学者提出了基于深度学习测试的覆盖准则,但是这些准则是否有用还有待商榷。本文对深度神经网络中基于覆盖率的测试进行研究,使用覆盖率峰值、达到峰值的速度、计算速度等指标来对覆盖准则进行评测,并研究用覆盖率来引导测试用例选择以挑选出对抗样本的方案的可行性。本文主要的研究工作如下:(1)使用MNIST和CIFAR10两种数据集,共训练六种实验模型以及使用共四种对抗样本生成技术生成的对抗数据,对于十一种覆盖准则,分别研究其覆盖率的峰值、达到覆盖率峰值所需要的测试用例数量、网络中不同层的覆盖率、计算覆盖率所需的时间、覆盖率与对抗样本检测能力之间的统计关系。经过大量实验,结果表明:覆盖率与对抗样本占比之间的相关性较弱。(2)使用MNIST和CIFAR10两种数据集,共训练六种实验模型以及使用共四种对抗样本生成技术生成的对抗数据,对于十一种覆盖准则,分别以其为准则计算数据集的覆盖率,以覆盖率大小为依据从测试用例集中挑选测试用例,在相同测试用例集下,分别统计并比较每一种覆盖准则的对抗样本检测能力。经过大量实验发现:在深度神经网络测试中,使用覆盖率挑选对抗样本的效果比较差,无法提高效率。
其他文献
结合体育旅游的特点以及长沙市的本土特色,基于SWOT分析法对长沙体育旅游的发展进行了探讨和研究,初步得出长沙发展体育旅游具有区位、资源、交通、客源、媒介宣传等优势;自
解构主义自产生以来,产生了较大的影响和冲击,已广泛应用于多个领域,如哲学,文学批评,社会学,人类学等等。它是一种结构消解式的批评,是一个反传统,反权威的怀疑主义思潮。它
目的分析糖尿病护理门诊患者失访原因并提出相应对策。方法采用电话随访的方式,对失访的395例2型糖尿病患者采用开放式提问以明确患者失访的原因。结果共与212例(53.7%)患者
<正>所谓危机,就是你以何种姿态、何种状态去应对变化。十年前,投放个Banner广告,发篇软文,就是网络营销了;四年前,发发微博,拍部微电影,就是网络营销了;而现在,网络营销已经
近年来,明星代言品牌而突发的一些危机事件越来越多,不是因为明星的个人行为影响品牌(如:"艳照门"事件引出与其有染的23名当红女星,其中明星代言的产品或品牌都将受她们个人
本文就作者亲历的一次公开示范课上的演示实验,提出了进一步的反思和质疑。
基于榆林市节水灌溉技术采用情况调研数据,首先采用二元Logistic模型分析了榆林市农户采用节水灌溉技术的影响因素,然后采用线性回归模型分析了农户采用节水灌溉技术对种植业
<正>当今世界正经历着一场深刻的社会变革,人类社会已经进入一个知识化、信息化、科技化、国际化的时代。新的时代,新的教育呼唤着新世纪科学的学校管理制度。要设计科学的现
当前,在以和谐为主基调的社会氛围里,各类违法犯罪行为的滋生是社会所面临的一大顽疾,监狱作为人民民主专政的国家政权的重要部门之一,担负着关押,监管罪犯,刑事执法活动顺利进行的重大责任,尤其是近年来,在互联网技术的广泛普及下,随着经济社会的不断发展与法制、服务型政府建设的持续推进,公民法制观念得到不断提升,突发公共事件往往能引爆全社会公众的探讨,在此形势下,近些年因监狱警察执法不当造成罪犯超期关押或非
利用"天达2116"壮苗灵不同浓度营养液,对巨尾桉无性系造林进行了浸苗试验。结果表明:600倍浓度的"天达2116"壮苗灵,对造林成活率影响不明显,但能缩短种植后的缓苗期,显著地促进树