Ad Hoc网络（无线自组织网络）是由一些具备通信能力的节点组成,不需要固定基础设备的支持。节点的随机移动使得Ad Hoc网络拓扑的变化难以预测,会导致网络性能下降。为了优化Ad Hoc网络问题,一些基于自然启发的群体智能行为的优化算法被提出并逐渐应用到Ad Hoc网络中。本文针对Ad Hoc网络中节点间的协作、无人机Ad Hoc网络路径优化以及Ad Hoc网络与异构网络之间最优网关的选择,这三个Ad Hoc网络优化问题做了深入的研究,并结合自然启发的优化算法,提出了相应的解决方法。本文的主要研究内容分为以下三部分:第一,提出了基于联盟博弈论的Ad Hoc网络节点协作促进方法。节点可能因为信道拥塞等问题,产生丢包行为,从而被错误认定为自私节点。于是本文把提高数据包的可达性、完整性作为Ad Hoc网络优化的目的,提出了相应的优化算法。本文在原有的路由协议中加入了联盟博弈策略,考虑了节点间的协作和竞争关系。仿真结果表明,该方法在Ad Hoc网络中能够提高数据包转发的成功率。第二,研究了无人机Ad Hoc网络路径优化,然后提出了一种基于智能水滴算法的无人机Ad Hoc网络自适应路径优化方法。所提方法通过引入了联盟博弈策略,模拟无人机之间的合作和竞争。同一联盟中的无人机节点相互合作,而不同联盟中的无人机节点相互竞争以此来得到最优路径,这样可以减少无意义的搜索。仿真结果表明,该方法相对于其它方法在搜索效率上具有一定的优越性。第三,研究了Ad Hoc网络与其它异构网络之间通信最优网关选择问题,提出了一种基于智能水滴算法的Ad Hoc网络网关选择方法。该方法受自然界的启发,它模拟了自然河流系统中发生的过程,尤其是水滴在河流中寻找其目的地（海洋）,能够自适应的到达目的地。通过不同场景下的仿真,数值结果显示了该方法在提高数据包的传递率,降低路径平均延迟方面有显著的效果。