随着第四代移动通信的飞速发展,国内4G用户数量快速增加,4G已经渗透到人民群众生活和国家生产的各个方面,并将对国家与社会公共安全带来巨大的影响。目前国内外针对4G安全的研究偏向于理论方面,即使是在实践方面的研究也主要以接入网为主,而针对核心网的工程实践研究相对较少。通过对4G核心网模型和S1AP协议的分析,我们可以尝试找到一种有效的面向4G核心网协议的安全检测方法。首先,本文对LTE核心网的网络架构进行了研究,对S1AP协议的信令格式和协议流程进行了分析,确定了协议信令的格式和协议流程中所使用的相关安全算法,并提出了面向S1AP协议的测试用例生成算法。其次,对有限状态机的理论模型进行了深入研究,并结合对S1AP协议完整协议流程的分析,提出将S1AP协议流程遵循有限状态机模型进行抽象,得到面向S1AP协议的有限状态机,为模糊测试系统的实现建立了基础。此外,本文根据对遗传算法地研究,结合S1AP协议的特性,设计了适应度函数和运算规则,并提出了面向S1AP协议模糊测试的改进的遗传算法。最后,根据设计好的有限状态机和遗传算法模型,设计并实现了针对S1AP协议的模糊测试系统,通过实验对系统功能进行测试,并利用与主流模糊测试框架的对比实验验证了系统的有效性。证明了本课题所设计的模糊测试系统对于S1AP协议的模糊测试是有效的,并且具有较高的效率。