随着无人机成本降低以及飞控技术的不断成熟,无人机在各个领域得到了广泛的应用。为构建一个稳定无人机集群系统,搭建一个可靠的低时延的多无人机通信网络是必不可少的过程。本文重点关注无人机自组网（Flying Ad Hoc Networks,FANETs）中路由协议的研究,引入强化学习思想,设计出一种智能链路探测技术和一种智能路由协议。首先,本文针对无人机节点高速移动带来的拓扑变化和链路维护困难所造成的网络性能下降的问题,提出一种基于强化学习的自适应链路探测优化算法。节点通过感知动态环境下邻居数量变化程度和自身业务负载程度,构建回报函数,求解最优HELLO时隙,以提高节点链路发现与维护能力。并且,针对构建强化学习模型过程中,遇到的连续状态空间导致状态过多的问题,采用基于相似度机制的Kanerva编码函数逼近状态空间,降低算法的复杂度,增加算法的稳定性。仿真实验表明,该算法能够有效提升网络的吞吐量,降低路由开销,且具有自学习的特性,适用于高动态环境下的无人机集群组网。最后,本文分析了已有路由协议应用于FANETs存在的不足,结合强化学习试错和动态规划的思想,提出一种基于地理位置信息的多智能体路由协议。在该协议中,节点评估邻居节点的价值,在数据包转发时通过衡量邻居价值和与目的节点距离的权重的关系来指导路由选择。实验表明,相较于其他基于地理位置的路由协议,该协议降低了开销、时延,提高了吞吐量。在网络负载高时,均衡链路负载,减少网络拥塞。