网络设备作为国家重要的基础设施之一,其在安全方面的表现越来越受到公众的重视,网络协议作为支撑网络设备运行的重要组件,其安全性尤为关键。模糊测试是安全研究人员测试软件漏洞的重要技术之一,已被广泛应用到各个领域。现阶段针对网络协议的模糊测试技术,主要集中在黑盒模糊测试,虽然其测试速度快,但是由于测试样例生成的随机性和盲目性,导致测试效果往往不如利用了执行时信息反馈的灰盒模糊测试。如何利用灰盒模糊测试技术对网络协议软件进行更便捷、更有效、更通用的测试是一个值得深入研究的问题。针对上述问题,本文通过目标分析、方案设计等工作,提出并实现网络协议灰盒模糊测试系统。核心工作如下:（1）研究网络协议灰盒模糊测试系统整体框架。通过分析网络协议模糊测试的难点和现有方案的优缺点,总结出针对网络协议模糊测试的三大目标,分别是简化模型文件构建过程、提高代码覆盖率和增强可拓展性,并设计网络协议灰盒模糊测试系统整体框架。（2）研究网络协议灰盒模糊测试系统关键技术。针对目标一,研究模型文件自动生成技术,提出了语法简洁的模板输入方案,能够减少测试人员的输入规模,快速生成有效的模型文件。针对目标二,研究基于状态导向的灰盒模糊测试技术,设计了灰盒模糊测试引擎和智能状态导向引擎,保证测试系统能够针对网络协议任一可达状态进行灰盒模糊测试,同时支持对预设的多个目标状态自动连续测试。针对目标三,研究模式控制技术,实现了对网络协议服务器端、客户端和路由协议软件三种模式的支持,保证测试系统的可拓展性和通用性。（3）设计网络协议灰盒模糊测试系统验证实验。为验证模型文件自动生成能力,基于OSPF协议模型文件自动生成实验,从代码输入规模、语法复杂性和生成模型文件有效性三个方面分析了模型文件自动生成的优势。为验证测试系统提升代码覆盖率的能力,对DNS服务器、RTSP服务器进行测试,并将测试结果与AFLNET、Peach工具进行对比。为验证测试系统模式控制能力,对Pica8白盒交换机中使用的FTP客户端和TFTP客户端、Quagga软件中的RIP协议实现和OSPF协议实现进行了测试。结果表明,本文设计的网络协议灰盒模糊测试系统能够有效简化模型文件构建过程,提高代码覆盖率,同时具备较强可拓展性和通用性。