由于无人机的尺寸更小、隐身性更好、不受驾驶员生理条件限制及具有更大的性能包线,使得其在现代战场广泛运用,并且随着现代空战理念的发展,无人机作战必须具备大机动能力。大机动能力指无人机在超过失速迎角之后,仍有对姿态做出调整的能力,进而实现机头的快速指向及小半径转弯,所以研究大机动无人机控制技术具有重要的理论意义和应用价值。然而由于无人机大机动飞行是大迎角的强非线性过程,飞行状态极易越界导致失控,如何保证无人机的飞行安全是需要首先解决的问题。本文围绕此问题,基于大机动无人机非线性数学模型,进行无人机姿态跟踪控制、安全机动边界解算及边界保护控制系统的研究。论文主要研究内容如下:首先,建立大机动无人机的非线性数学模型,对模型的气动系数进行仿真分析,并对模型进行开环零输入及耦合特性分析。同时为便于后续无人机姿态跟踪控制,边界解算及边界保护控制系统的研究,将姿态状态方程转化成了相应的仿射非线性形式。然后,针对大机动无人机姿态跟踪控制问题,引入辅助系统补偿控制舵面效能降低带来的输入饱和问题,构造鲁棒控制分量来消除建模误差及机动过程中受到的干扰对系统产生的不利影响,利用动态面控制技术避免了对虚拟控制律的复杂求导,进而提出了一种鲁棒反演姿态控制器,通过构造Lyapunov函数保证了闭环系统的稳定性,并由数值仿真结果验证了所设计控制系统的有效性。接着,针对大机动无人机安全机动边界解算问题,对结构飞行边界中的过载边界进行了详细分析,同时基于二分法思想提出快速性更好的改进可达平衡集方法,进而实现了无人机绕速度轴滚转角速率的动态机动边界的解算,为后续边界保护控制系统的研究提供了基础。通过对绕速度轴滚转角速度的一类非在线边界解算仿真对比实验,验证了改进可达平衡集的快速性与准确性。最后,针对大机动无人机安全飞行边界保护控制问题,利用径向基神经网络逼近系统不确定性并借助二阶非线性干扰观测器估计系统复合干扰,进而设计了一种自适应滑模姿态控制器,并通过构造Lyapunov函数保证了闭环系统的稳定性。在此基础上,基于改进可达平衡集算法,提出一种指令约束边界保护方案,并将其与自适应滑模姿态控制器相结合,解决了绕速度轴滚转角速率越界问题,进而实现了无人机在安全边界内的姿态跟踪,并由数值仿真结果验证了边界保护控制系统的有效性。