随着网络技术的不断发展,为了满足用户多元化的信息传输需求,通信协议种类迅猛增加。协议逆向技术能在缺少协议设计规范的前提下,通过分析网络协议报文进行报文特征字段提取、语义识别,并最终输出协议状态机。协议逆向工程对于保障网络安全、预防网络攻击、提升网络资源管控效能具有重要意义。为提高通信效率,保障不同场景下的服务质量,私有协议多采用面向二进制比特设计的方式且不包含定界符,其报文格式往往仅由通信双方约定,有着字段特征模糊、字段语义难辨的问题。因此,在协议规范未知的条件下,如何准确提取特征字段并识别各字段语义是研究二进制协议逆向技术的主要挑战。论文针对二进制协议特征字段难提取、语义表征规则缺失等问题开展技术攻关,主要成果如下:论文综述了二进制协议逆向的技术路径和发展趋势,分析了特征字段提取算法和语义识别算法的研究现状和局限性,梳理了二进制协议语义识别面临的主要挑战,包括:如何在特征字段提取中充分运用协议设计先验原理挖掘报文格式潜在特征,提高特征字段提取准确率;对已提取的特征字段,如何进行语义表征、语义识别并设计语义扩展规则,提高语义识别准确率;如何构建一体化协议逆向平台,提高协议逆向准确率及效率。提出了一种基于报文长度比对的“长度”特征字段分层搜索方法,解决了不定长特征字段提取问题。该方法依据协议设计原理,利用基于长度的组帧机制,通过分层搜索“长度”特征字段,确定子帧边界,逐个、逐层解析报文,有效提高报文特征字段提取准确度。通过对TLS协议、TLV协议报文数据集测试,本文所提算法准确率达到90%。提出了基于贝叶斯分类的特征字段语义识别算法,提升了未知协议语义的识别率。主要步骤如下:设计了自扩展语义库的特征字段语义识别技术框架,形成协议语义表征、语义存储及扩展、语义识别的闭环,支持未知协议库的扩展;依据协议设计原理,标识了特征字段属性;构建了基于贝叶斯分类的特征字段语义识别算法,进行特征字段语义判别。对TCP协议、QUIC协议等多类型、多层协议报文样本测试,所识别的语义种类达到8种以上,特征字段语义识别准确率达到90%。构建了协议逆向工程关键技术验证平台,平台主要部件包括:样例生成模块、协议逆向工程模块、管理监测模块,支持特征字段提取与语义识别。该平台提供了图形化界面及人机交互模,融合了深度学习框架,为协议逆向工程技术的研发提供支撑。