针对四旋翼无人机存在欠驱动、强耦合、非线性、时变性、大干扰和强不确定性等特性,对控制系统性能要求较高的研究需求,以一类四旋翼无人机为研究对象,进行动力学模型建立和特性分析,考虑外部扰动和模型结构不确定,分别基于三种控制算法设计了满足性能要求的飞行控制系统。首先针对四旋翼无人机飞行原理进行阐述,进行详细的受力分析,建立四旋翼无人机动力学模型,并分析四旋翼无人机的耦合性及操纵性等特性,为后续控制系统设计积累良好基础。由于四旋翼无人机自身存在欠驱动、耦合性强等特点,为便于应用经典PID控制方法进行设计控制系统,首先忽略非线性因素,然后对模型进行位置跟踪外环和姿态跟踪内环的双回路控制器设计。通过仿真验证不考虑不确定性情况下经典PID控制器的控制性能,并分析了其鲁棒性。为增强四旋翼无人机控制系统鲁棒性,采用Lyapunov方法推导得出考虑不确定性的鲁棒控制律,控制系统仍然采用双回路形式。在考虑系统存在较强不确定性的仿真条件下,其结果表明Lyapunov鲁棒双回路控制系统能够实现飞行器指令的稳定跟踪。但通过理论分析表明所设计的Lyapunov鲁棒控制器存在保守性强以及大姿态角控制性能差等不足。最后引入非线性动态逆控制(Nonlinear Dynamic Inversion,NDI)以应对大姿态角情况下的飞行器控制问题。基于时标分离原则将模型划分为快回路、较快回路和慢回路分别进行控制器设计,针对模型结构不确定性,引入参考模型将一般动态逆方法扩展为模型参考动态逆(Nonlinear Model Reference Dynamic Inversion,NMRDI)。考虑四旋翼无人机飞行过程中易受外部干扰的问题,设计滑模观测器观测和补偿外部干扰量。仿真结果表明本文设计观测器对干扰观测误差较小,在降低NMRDI控制器保守性的同时,能够实现大姿态角情况下的高品质控制。