近空间飞行器(Near Space Vehicle,NSV)集传统航空器与航天器的优点于一身，在军事和民用方面具备重大的战略价值，已成为各军事强国关注和研究的焦点。NSV飞行环境的特殊性使其具有复杂非线性、快时变、强耦合的对象特征，并且在飞行过程中呈现多飞行状态、多任务模式的特点，这使得NSV飞行控制系统的设计更加复杂。围绕这一基础科学问题，本文基于6自由度十二状态近空间飞行器数学模型，在不确定环境下飞行姿态、协调转弯和纵向飞行等方面开展了深入的研究，主要研究成果有：首先，根据国外公开发表的文献资料、相关研究报告与实验室前期研究成果，建立6DOF十二状态NSV运动方程。为解决多变量、强耦合和复杂非线性的NSV姿态控制，研究了基于backstepping方法的一类多输入多输出非线性系统控制器设计方法，并以此设计了NSV姿态角控制器和角速度控制器，仿真结果说明所提方法有效性。其次，围绕具有不确定和外部干扰的NSV姿态运动方程，提出了基于干扰估计的backstepping的控制方法。为补偿系统中的未知干扰，给出两种在线估计算法—自适应干扰估计算法和二阶滑模干扰观测器，并通过理论推导和仿真分析验证了所提出的控制策略能够有效地提高受扰NSV姿态控制系统的抗干扰能力。随后，围绕具有全包线飞行特点的变后掠翼NSV，采用切换仿射非线性系统来描述其不同阶段姿态模型。当切换系统精确已知时，依据backstepping方法，研究一类切换非线性系统光滑控制器设计新方法，以保证模型切换瞬间控制量的光滑性。当切换系统存在未知干扰时，为准确地估计各模态的未知干扰，设计一组径向基神经网络干扰观测器，并采用鲁棒项使得干扰估计值以任意小的误差逼近干扰真值。在此基础上，给出不确定切换非线性系统的控制器结构，并采用多Lyapunov函数推导闭环切换非线性系统稳定条件。以此设计后掠翼不确定时NSV的姿态角控制器和角速度控制器，仿真结果说明所提方法对不确定和外部干扰表现出良好的鲁棒性。然后，围绕NSV纵向姿态/轨迹飞行协调控制问题，提出基于快速收敛非线性微分器干扰补偿的纵向姿态/轨迹飞行协调控制方案。根据NSV纵向飞行特点，给出了NSV纵向姿态/轨迹协调控制模型。针对其中的非仿射非线性航迹模型，提出一种在线的非仿射非线性系统近似方法。为估计NSV纵向运动中的未知复合干扰，给出一种快速收敛的非线性微分器设计方法，并通过理论推导证明其微分估计误差可以收敛于任意小的有界集内。在此基础上，依据受限指令滤波backstepping方法和动态逆方法，设计受扰NSV姿态/轨迹鲁棒协调控制器，并通过理论推导和仿真分析说明所提出的控制策略能够实现姿态与轨迹之间的协调运动。最后，围绕NSV协调转弯控制问题，提出基于二阶滑模干扰观测器干扰补偿的NSV协调转弯鲁棒控制策略。根据NSV转弯飞行特点，建立航迹与姿态角和角速度之间相互影响的NSV协调转弯控制模型。将动态逆方法、带有调节因子的滑模控制方法和二阶滑模干扰观测器相结合，给出重心轨迹协调转弯鲁棒控制器设计过程，其中利用带有调节因子的滑模控制方法以改善航迹倾斜角和航迹方位角的动态性能，进而协调纵向与横侧向运动。仿真结果表明该方法能够有效地完成受扰NSV协调转弯控制任务。