由于具有机动灵活、适应能力强、使用方便等显著优点,无人飞行器被广泛应用于军用、民用的许多领域。飞行器执行机构中存在死区、饱和(舵面受限)等非线性特性;外界干扰、建模误差、参数摄动等不确定因素对其影响显著;为保证飞行安全,迎角、速度等状态需要限制在规定的范围内;在一些特殊的应用场合,需要飞行器具有满意的动态性能和指令跟踪精度。这些因素使得设计高性能无人飞行器控制系统面临着具大的挑战。综合考虑这些问题,提出有效的控制策略,对于促进飞行控制技术的进步,提高无人飞行器的性能,具有重要的意义。本文以无人飞行器纵向非线性系统的控制律设计为主线,分别从鲁棒反演控制、输入输出受限与状态受限控制、预设性能控制等方面进行深入研究,提出针对上述问题的解决方法。论文的研究工作及主要贡献如下:1)针对跟踪误差受限与控制输入饱和问题,提出了基于Barrier-Lyapunov-function(BLF)技术的自适应神经网络受限控制方法。通过设计相应的辅助补偿系统对期望控制律进行修正,确保执行器瞬时饱和时控制系统稳定;结合BLF技术对系统跟踪误差进行约束,保证了闭环系统的跟踪精度。2)结合BLF方法与指令滤波技术提出了一种迎角受限的自适应模糊控制算法。通过引入饱和环节,对反步控制中虚拟控制量进行限幅,引入BLF对虚拟跟踪误差进行约束,达到了限制迎角、保证飞行器安全的目的。3)为保证系统具有满意的动态性能,考虑执行器死区的影响,分别提出了设计自适应预设性能控制器的间接方法和直接方法。间接方法是通过结合光滑死区逆模型策略与预设性能技术来设计相应的控制器;直接方法融合预设性能方法、模糊逻辑逼近技术与Nussbaum型函数设计控制器。仿真结果表明两种方法均能够实现对参考指令的鲁棒跟踪,并能保证跟踪误差具有满意的收敛速度与稳态精度。4)针对飞行器高度系统的跟踪控制问题,提出了两种简化的自适应神经网络控制算法。第一种方法先将模型转化为积分链的形式,再利用最小参数学习方法设计自适应律,减少了神经网络在线学习参数的个数。第二种是将非线性不确定函数传递到反步设计的最后一步,再用神经网络逼近总的不确定项。这两种算法均只需用一个神经网络逼近模型的不确定项,显著减小了计算量。5)针对存在参数摄动和外部扰动的无人飞行器指令跟踪问题,提出了一种基于新型扰动观测器的预设性能控制方法。该方法通过非线性扰动观测器在线估计系统中的复合不确定项,并把干扰估计值主动补偿到预设性能控制器中,有效抑制了外界非匹配扰动对系统的影响,提高了控制系统的鲁棒性(抗干扰能力)。