近年来,随着四旋翼无人机(简称四旋翼)在航拍、资源勘探、农作物保护等领域的广泛应用,业界对其控制性能和智能化程度的要求也越来越高。与此同时,机器学习(如神经网络和强化学习)在机器人的控制和导航方面也渐渐发挥出优势。本文通过神经网络和强化学习的方法来提高四旋翼的控制性能和智能化程度,主要研究四旋翼建模、控制与自主导航等问题。首先,针对四旋翼非线性强、易受干扰及建模不准确的问题,本文提出了一种基于BP神经网络的建模方法和控制器设计方法。根据四旋翼的运动学机理建立了主成分模型,利用BP神经网络辨识出了补偿模型;在完整模型(包含主成分模型和补偿模型)的基础上,利用Backstepping方法分别设计了关于位置、高度、航向、姿态的非线性子控制器。本文的方法使得四旋翼的控制更加精确,并通过Unreal Engine 4的迷宫场景验证了航点跟踪性能。然后,本文考虑了空地协同迷宫导航问题。使用四旋翼的高空三维视角来获取环境信息,并利用图像处理的方法重构迷宫;随后在重构的迷宫中,利用Q-Learning强化学习方法去搜索从给定起点到终点的最优路径;最后将此最优路径发送给无人车,使其完成迷宫路径跟踪。在搜索最优路径时,本文提出了一种新的搜索策略(改进的?-贪心策略),这种策略可以显著减少最优路径的搜索时间。本文从动态规划的角度分析了该方法的收敛性,也通过各类迷宫场景展示了该方法的有效性。最后,本文考虑了四旋翼在复杂环境中的自主导航问题。传统的导航方法一般先将环境空间离散化为栅格空间,然后进行路径规划。但不同的离散化方式会导致不同的规划结果。本文提出了一种基于策略梯度强化学习的自主导航方法,其不需要离散化空间,而直接在连续空间中完成交互。在四旋翼飞行过程中,通过一套神经网络去自主记录和在线学习出最优路径,这使得四旋翼可以完成端到端的无碰撞自主导航。本文通过理论推导给出了策略梯度方法的原理及改进分析,并在由Unreal Engine 4构建的复杂环境中验证了自主导航的有效性。