现如今,人们对于电子产品的依赖越来越大,对其上所装载的服务和应用的需要也越来越高;随着各种软硬件层出不穷,其上所存在的安全隐患和可能形成的安全威胁备受关注,对于软件的脆弱性检测有迫切需求。模糊测试技术已经被证实是一种检测软件脆弱性的有效方法,并在行业内成为了标准技术。但即使是最先进的模糊测试技术,也难以有效触发软件错误,经常会陷入无效的随机变异中。本文首先提出了一种过程间的控制流图修复技术,用以解决在静态分析的过程中无法有效收集到全部程序控制流信息导致的控制流图构建不完整的问题,为进行模糊测试技术的研究做好准备。本文接下来提出一种结合神经网络模型和粒子群智能算法的导向型模糊测试技术,以解决模糊测试过程中没有方向性导致的模糊测试陷入无效变异的问题。该技术首先使用过程间的控制流图修复技术构建完善的程序控制流图,在其基础上对程序中可以到达目标位置的分支进行分析,为样本变异提供变异方向;然后使用神经网络构建程序流平坦化模型,对程序的分支逻辑进行平滑逼近的模拟,通过梯度计算得到更有效的变异位置,同时在模糊测试的过程中动态的对神经网络模型和程序分支进行增量优化,使其能够更准确的表示程序的执行逻辑;并使用群智能算法在有效变异位置进行变异,引导样本群体导向目标位置,加强了对标记目标脆弱位置的测试强度,使得更容易发现漏洞。基于对结合神经网络模型和粒子群智能算法的导向型模糊测试技术的研究,本文实现了一套导向型模糊测试原型系统,并对系统的各个功能进行了评估。同时与当前较为有效的模糊测试工具和主流的模糊测试工具进行了模糊测试效果的对比,结果表明,本文提出的方案能够更有效的提升指定目标位置的测试强度并更快的发现漏洞。