面向深度学习模型的模糊测试技术研究

来源 :北京科技大学 | 被引量 : 0次 | 上传用户:yuanyeah
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于深度学习模型的智能软件具有强大的推理与分析能力,被广泛应用在自然语言处理、图像识别、交通等多个领域。由于数据集的限制以及人工标签数据的依赖,深度学习模型易于出现非预期的行为。近年来,深度学习模型的质量问题受到广泛关注,特别是在安全攸关的领域。模糊测试能够基于有限的数据自动产生大量的测试用例且具有较强的故障揭示能力,深度学习模型备受关注。模糊测试应用在深度学习模型时,从测试用例集中随机地选择部分测试数据来构建种子队列,构建的种子队列的多样性难以保障,限制了深度学习模型的充分测试。此外,人们侧重提出各种变异策略和覆盖标准,忽略了种子选择与变异策略选择对模糊测试产生对抗输入和探索模型内部状态效率的影响。最后,深度学习模型的决策逻辑难以理解、输出概率化的特性,使得模糊测试结果难以判定。本文旨在研究面向深度学习模型的高效模糊测试技术,从种子队列构建、种子与变异策略选择、测试结果判定三个方面探索模糊测试技术的优化策略。主要研究工作包括:1)基于均匀分布的多样性种子队列构建方法。针对面向深度学习模型模糊测试的种子队列缺乏多样性的问题,提出了多样性驱动的种子队列构建框架DFuzzer,从测试用例集中迭代地选择与种子队列中种子差异最大的测试用例。为量化深度学习模型复杂测试用例间的差异,设计基于信息论的差异度量标准(IBDM)和基于特征的差异度量标准(FBDM)。利用三个数据集和七个模型评估并比较DFuzzer对五个模糊测试技术的改进程度。实验结果表明:DFuzzer能够在时间开销小的情况下,产生的对抗输入数量平均是基准技术的1.26倍,实现的神经元覆盖率/TFC覆盖率比基准技术平均提高了 1.60%/4.21。2)基于反馈的自适应种子与变异策略选择方法。针对已有种子与变异策略选择策略没有充分利用测试过程信息从而导致故障检测效率低的问题,提出了一种基于反馈的自适应种子与变异策略选择框架DeepController。DeepController将软件控制论引入模糊测试中,利用测试过程信息(包括覆盖信息、测试结果、种子使用次数和种子加入种子队列的时间),选择具有较高概率揭示故障或者触发新覆盖的种子与变异策略。基于DeepController框架,设计了自适应的种子选择算法AS2和自适应的变异策略选择算法ASM2。利用三个常用数据集和八个不同规模的模型评估DeepController在产生对抗输入和探索模型内部状态方面的有效性、效率和性能,并与深度学习模型测试技术进行了比较。实验结果表明:DeepController产生的对抗输入数目平均是基准技术的2.16倍,实现的神经元覆盖率比基准技术平均提升了 2.45%;在时间开销方面,DeeController优于大多数基准技术,略高于耗时最短的基准技术。3)提出基于蜕变关系的高效的模糊测试结果判定方法。针对面向深度学习模型的模糊测试缺乏高效的测试结果判定机制问题,提出基于蜕变关系的模糊测试结果判定框架DiffFuzzer。DiffFuzzer利用蜕变关系生成测试用例与判定测试结果,并且利用测试过程信息来选择高效种子与蜕变关系。在此框架下,进一步设计基于差异驱动的蜕变关系选择算法DDMR,并集成了 AS2种子选择算法。利用三个常用的数据集和八个模型评估DiffFuzzer在产生对抗输入和探索模型内部状态方面的有效性、效率和性能,并与代表性的深度学习模型模糊测试技术进行了比较。实验结果表明:DiffFuzzer产生的对抗输入数目平均是基准技术的2.11倍,实现的神经元覆盖率比基准技术平均提升了 2.93%;在时间开销方面,DiffFuzzer优于所有的基准技术。4)开发面向深度学习模型的模糊测试支持工具EFuzzer。EFuzzer具有种子队列构建、种子选择、变异策略选择/蜕变关系选择、测试用例生成、测试结果判定和覆盖分析等功能。此外,还集成了常用的面向深度学习模型的模糊测试技术、覆盖标准和变异策略/蜕变关系。
其他文献
轴承早期故障的实时诊断,是实际工程应用需求和基础科学问题研究的交汇点,是轴承故障诊断的发展方向之一。首先,阐述了轴承故障及演变过程;其次,根据轴承早期故障实时诊断的需求,总结了轴承早期故障诊断难点问题;之后,重点论述了轴承早期故障诊断3个关键环节所采用的各种技术:微小监测信号增强技术、监测数据的融合表示技术以及早期故障智能诊断技术;最后,总结展望了轴承早期故障诊断技术的发展趋势。
目的 探讨小剂量甲泼尼龙片联合穿虎祛痛合剂治疗非甾体抗炎药和秋水仙碱禁忌的难治性痛风效果。方法 报告1例应用小剂量甲泼尼龙片联合穿虎祛痛合剂治疗的难治性痛风病人的临床资料。结果 该病人局部疼痛经3 d局部应用糖皮质激素联合穿虎祛痛合剂治疗后好转;经2周口服小剂量甲泼尼龙片联合穿虎祛痛合剂治疗后剧烈疼痛等症状缓解,炎症指标及肝功能恢复正常。2周后停用甲泼尼龙片,痛风未发作;1月后行肘关节痛风石手术治
<正> 计算机特别是微型计算机的应用已广泛渗透到我国社会和国民经济的各个领域。各高等院校普遍开设了“微型计算机原理及应用”等一系列课程。在电子与信息类专业中结合专业特点开展计算机教学,特别是微机应用技术的实验教学,是一个适应我国建设需要、使计算机教学向深度和广度发展、值得认真研究探讨的问题。根据学校提出的“坚持改革开放,增强办学活力,着重提高水平”的战略目标,几年来,我们在改进微机技术实验教学的教
期刊
基于深度学习的系统异常检测可划分为:基于堆栈自编码(SAE)、基于卷积神经网络(CNN)、基于深度置信网络(DBN)、基于循环神经网络(RNN)以及基于生成对抗网络(GAN)等5类系统异常检测方法。为了梳理出当前深度学习技术在系统异常检测应用中所面临的问题以及应对方法,分别对这5种检测方法的建模思想、在系统领域的应用实现以及它们各自的特点进行了对比论述,并对深度学习在系统异常检测领域未来的发展进行
<正>盛夏的北京,五四大街绿树成荫,游人如织。北侧一幢红砖砌筑、红瓦铺顶的砖木结构近代建筑修葺一新,静静伫立,庄重大方。因外观以红色为主基调,及曾作为国立北京大学的校部、文科和图书馆所在地,自1918年建成至今,它被人们亲切地称为北大红楼。
期刊
<正>习近平总书记在党的二十大报告中指出:“实践告诉我们,中国共产党为什么能,中国特色社会主义为什么好,归根到底是马克思主义行,是中国化时代化的马克思主义行。拥有马克思主义科学理论指导是我们党坚定信仰信念、把握历史主动的根本所在。”深入学习贯彻党的二十大精神,把党的二十大作出的重大决策部署付诸行动、见之于成效,必须学深悟透做实习近平新时代中国特色社会主义思想,把握好其世界观和方法论,坚持好、运用好
期刊
除剧情严谨、内容新颖外,电视剧还随着时代的发展增设相应特色。新世纪以来,中国古装电视剧剧情设计逐渐呈现游戏化审美倾向。《梦华录》在情节上增加了以游戏化的娱乐效果为主要诉求的新内涵,具体表现为游戏性、竞技性、综艺性、间离性四种特性;在观众的观赏效果上,客观上产生了趣味感、胜负感、狂欢感、仪式感的娱乐效果。当前,有必要对这种游戏化审美倾向进行学术性反思,即剧情设计的游戏化应当源于一定的实践基础,并且创
实施国家教育数字化战略行动,对教师队伍数字化建设提出了新的要求。目前教师工作司从数字资源建设、有组织教师研修、教师管理与教师服务四个方面开展教师队伍数字化建设,在数字化助推学习、教学、管理、服务方面取得了明显成效。在课程资源的针对性与智能性,平台应用的丰富性与常态化,系统服务和支撑作用方面还有待加强提高。下一步应全面深入开展调查研究,根据教师需求,从资源与研修进一步提升教师信息化素养,利用大数据支
针对智能变电站通信链路故障定位因链路复杂导致排查效率低的问题,提出了基于深度学习的智能变电站通信链路故障定位方法。从智能变电站二次装置网络拓扑出发,构建网络连通矩阵并作为基准,提出了通信链路故障情形下的故障特征表征方法;进一步基于二次装置连接与运行状态之间的逻辑关系,构建全站故障样本集;应用改进卷积神经网络(CNN),搭建智能变电站通信链路故障定位模型,最终通过后台信息初步判定的故障间隔信息与模型
随着人们生活水平的提高,痛风发病率逐年增高,且目前尚无根治方法。本文通过对难治性痛风合并痛风性肾病采用中医辩证论治配合中药灌肠及抗炎镇痛、降尿酸治疗;中西医综合治疗联合生物制剂治疗难治性痛风合并消化道出血的临床个案经验进行分析总结。临床运用西医基础治疗联合中医内外合治的方法治疗难治性痛风,患者症状、实验室指标均明显好转,值得在临床上进一步的分析和研究。