模糊测试技术是重要的漏洞检测技术,该技术按照制定的策略生成测试用例,将其输入到被测试对象中,用以检测被测试对象中存在的漏洞信息。然而在传统的改进思路中,检测开始之前就将模糊测试的策略确定下来,导致在模糊测试的检测过程中无法根据实际的执行情况对策略进行调整。即便检测策略不适合检测对象,模糊测试仍然只能按照既定策略继续执行下去。由于不可能为每一个检测对象都单独制定一个适合的模糊测试策略,且制定一个适用于所有检测对象的策略是不现实的,所以唯一的解决方法是在模糊测试的过程中根据实际检测状况和大量的反馈信息对后续模糊测试的开展进行指导,进而在提升有限时间内模糊测试检测能力上提供帮助。论文基于上述需求以模型化的方法充分利用模糊测试中的已有信息,对预处理过程中种子文件进行处理,从而克服传统检测方法的局限性,实现模糊测试过程中动态策略指导,提升检测效率。本文的主要研究工作总结如下:1.分析了已有的模糊测试改进工作,梳理了现有的模糊测试的改进思路,细化了模糊测试的工作流程,为克服传统模糊测试改进方法的局限性提供了理论基础。2.提出了基于机器学习方法进行模糊测试模型化研究的思路,通过在模糊测试的实际检测过程中搜集必要的信息,通过机器学习利用这些信息训练模型,最后使用训练好的模型干预模糊测试的决策过程,从而实现了根据实际执行情况对检测策略进行动态调整的目的,减少了因策略不合适而对检测效果造成的影响,最终消除了传统改进方法所带来的局限性,提升了模糊测试的检测效率。3.提出了一种基于Tr ansform er的初始种子选择方法,利用多轮模糊测试中前一轮检测过程中搜集的数据,对修改后的Transformer模型进行训练,对比了按照传统策略筛选出的初始种子文件和通过模型训练后的种子文件,实验结果表明,通过机器学习模型化筛选出来的初始种子在最终检测结果中覆盖率得分更高,且提升了模糊测试的检测效率。