模式匹配技术被广泛应用于产品化的入侵检测系统中,由于其检测准确度非常高,在已知入侵行为中发挥重要的作用。通过高效的模式匹配算法,能够对关键节点的网络流量数据进行在线实时分析检测,准确无误的发现已知攻击,具有十分有效的防范作用。人工神经网络具有高容错、适应性强等优点,在异常检测技术中应用较多,而且具有良好的检测性能。用其构建异常检测方法,不仅能够发现未知的攻击行为,而且能够有效应对网络流量数据不均衡分布的问题。本文重点对模式匹配算法和BP神经网络进行研究。针对单模匹配算法,分析其匹配流程,算法效率,提出了一种基于BMHS算法的改进算法,使其具有更高效的匹配速度;针对BP神经网络,主要分析其基本思想、流程、存在的问题以及其原因。采用遗传算法优化BP神经网络。基于以上的分析研究基础,提出了一种基于流量分析的入侵检测模型。具体研究工作如下:首先,分析了基于模式匹配入侵检测技术的原理,模型,阐述了单模匹配算法存在的局限性。针对单模匹配算法中首字符不匹配情况下过多匹配的问题,提出了一种改进算法,通过实验验证改进算法能够有效的解决首字符不匹配的问题,提高的匹配效率。其次,针对标准BP神经网络算法面临的问题,结合入侵检测的实际需求,提出引入遗传算法来优化BP神经网络,使其具有更高的检测效率和更少的训练时间,通过实验分析,证明了这种利用遗传算优化BP神经网络应用于神经网络的有效性。最后,本文分析了模式匹配和基于BP神经网络异常检测方法的优点,提出了一种混合的入侵检测模型,其中模式匹配主要用来实时检测网络中的流量,达到在线实时检测攻击的目的,BP神经网络用于线下分析检测,检测未知和近似于正常流量的攻击。通过实验测试,证明了该模型的有效性。