随着网络全球化广泛应用，各国军事、政治、经济、社会等诸多方面越来越离不开互联网。然而由于网络攻击的低成本、高回报以及网络安全的脆弱性，网络已成为黑客攻击的主要目标。黑客往往利用协议漏洞攻击和破坏目标系统，网络正面临着前所未有的安全挑战。目前的网络协议愈来愈复杂，使得传统的协议分析方法失效，对目标网络协议的逆向工程耗费的时间和人力也越来越多。因此迫切需要自动化的逆向系统对网络协议进行自动化的分析，一方面可以自动、快速地得到分析结果或中间结果，节省人力和时间的耗费；另一方面通过标准化的逆向流程和二进制的对比分析，可以弥补人工逆向的一些疏忽和不足。本文主要针对具有强交互性（例如即时通信协议和P2P协议）的协议，提出了一种基于网络协议自动化逆向的协议分析方法，设计并实现了一套网络协议自动化逆向分析系统。该方法首先通过自动化静态分析技术获得IP、域名等关键信息，之后再通过自动化动态协议追踪分析技术获得数据包构造、解析与协议的关键交互过程，然后用于协议识别和检测。通过对即时通信协议（如：QQ、GTalk）和P2P文件共享协议（如：迅雷、BT）进行真实流量实验，对该方法的准确性和有效性进行了验证。实验结果表明，其准确率和召回率分别达到94.9%和92.1%以上，并且仅需要检测流量中8.7%的包或0.9%的字节内容。