无线网状网是一种新兴的多跳无线网络技术,具有自配置、自治愈的特点,并且容量大,传输速率高,网络信号覆盖扩展能力强,目前已经在社区网络、交通运输、建筑自动化、医疗卫生等方面得到了广泛的应用。由于无线Mesh网络具有信道开放,动态拓扑及终端节点的双重身份等特点,容易遭到各种各样的网络攻击,并且恶意用户经常出现,严重阻碍了无线Mesh网络的健康发展。常见的网络攻击主要有:拒绝服务攻击(DoS攻击),虫洞攻击,重放攻击,黑洞攻击等,其中DoS攻击是威胁最大,也是最难防御的攻击。该攻击方式发起简单,攻击手段多样,危害严重,因此,对DoS攻击的防护研究具有很大的实际意义。由于DoS攻击大多发生在网络层,在网络层发起时与路由协议结合紧密,本文主要考虑了实时业务对时延要求高的特点,选择了OLSR协议作为网络层路由协议,对DoS攻击的防护分为对DoS攻击的检测和追踪两部分,研究的目的是提高无线Mesh中DoS攻击检测的准确率和效率,在追踪上精确定位攻击源,减少DoS攻击的危害。在DoS攻击的检测上主要做了两方面工作,一是针对目前网络行为特征检测都是建立在已知网络行为特征的基础上,而对网络行为特征库的建立与完善并未提出方便可行的方案,本文提出AP(吸引子传播算法)算法与k-means算法相结合的异常告警机制,结合人工判断来达到不断丰富和完善攻击特征数据库的目的,增强对未知行为特征攻击方式的网络防护能力。二是针对无线Mesh网络终端节点资源有限性的特点,减少实时检测的开销,以NSL_KDD数据库为例提出特征项优选方案,增加了无线Mesh网节点对DoS攻击的检测效率。在DoS攻击源的追踪上,现有的溯源技术能够将DoS攻击包追溯到攻击源接入的路由节点,并确定可疑链路。在无线Mesh网中,由于终端节点的双重身份,这种溯源技术无法准确判断攻击源节点。本文设计了父节点可控路由算法,该算法与包概率标记技术相结合,实现对攻击源的精确定位,进而达到对攻击源节点精确隔离的目的,降低DoS攻击对整个网络的危害,并且用仿真验证了该路由算法在大业务量下的网络性能。此外,本文对一种以OLSR路由协议拓扑生成为攻击对象的隔离拒绝服务(Isolation_DoS)攻击,提出用规则冲突检测和MPR临时增选相结合的方法来抵抗这种新的攻击方式,并仿真验证了该防御策略的成功率和造成的MPR增加量。最后本文对提出的防御策略利用Qt软件结合mysql数据库对DoS攻击的检测及攻击源追踪定位过程进行了软件模拟。