由于日趋紧张的国际形势以及未来国防安全的需求，近年来近空间飞行器(near spacevehicle, NSV)成为了各主要军事强国竞相发展的目标。该飞行器的工作范围介于航空飞行器和航天飞行器之间，因此具有机动性好、易于更新和维护、效费比高且覆盖范围广等优点。然而，近空间飞行器的飞行空域、工作环境和任务模式都与传统飞行器有着显著的区别，且系统具有强烈非线性、快速时变性、强耦合和不确定性等特点。因此其飞行控制系统的设计一直是近空间飞行器基础科学问题研究的重要分支。本文围绕这一研究课题，提出了一种称为单向滑模的变结构控制方法，并利用该方法在近空间飞行器强鲁棒协调控制方面展开了相应的研究工作。首先，在课题组前期研究成果的基础上，对高超声速条件下近空间飞行器的气动构型进行分析，从而给出了飞行器6-自由度12-状态动力学方程以及飞控系统的总体结构。并根据现有文献资料，对近空间飞行器的工作环境、飞行任务、飞行力学以及动力学特性进行深入讨论，论证了飞控系统对于强鲁棒性、阻尼性能和协调控制这三个方面的性能要求。然后，围绕近空间飞行器的复杂非线性动力学方程，着重研究了上述性能要求下姿态运动控制系统的设计问题。针对近空间飞行器的强鲁棒性要求，首次提出了一种称为单向滑模的变结构控制方法。该方法通过对于传统滑模进行结构上的改进，并引入单向辅助滑模面和正不变集这两个概念，从而增强了滑模控制方法的鲁棒性能。其主要优点在于，可以不借助高阶滑模和边界层滑模的去抖振思想，而仅仅依靠不连续趋近律确保控制器输出的连续性，从而实现无抖振的滑模控制。与高阶滑模相比，该方法无需微分信息，因此在工程中更容易实现；而与边界层滑模相比，该方法利用不连续趋近律实现无抖振控制，因此保留了滑模控制方法中宝贵的不变性和抗干扰性能，开辟了一条去抖振的新思路。接着，考虑到近空间飞行器短周期运动经常处于临界阻尼状态的问题，提出了Terminal单向滑模控制方法。该方法在单向滑模控制理论的基础上，利用Terminal吸引子做了进一步的改进，使得新方法在保留强鲁棒优点的同时，兼具了Terminal滑模快速收敛的能力，从而加强了控制系统的阻尼性能。文中采用Lyapunov理论对该方法的闭环稳定性进行了分析，同时通过仿真实验验证了该方法良好的鲁棒性和阻尼性能。进一步，针对近空间飞行器中所呈现的协调控制问题，将纵向协调控制与协调转弯问题分别讨论。对于纵向协调控制问题，通过采用调节因子和滑模干扰观测器解决纵向姿态/轨迹运动中的耦合以及抗干扰问题。而对于协调转弯问题，则在纵向协调控制系统的基础上进一步改进，将速度航迹角回路系统方程视为非仿射非线性系统，并利用解析法、牛顿迭代法和单向滑模控制方法设计协调转弯鲁棒控制系统，从而使得NSV能够在保证安全飞行的前提下实现高度、速度、侧向位移的精确跟踪。文中通过Lyapunov方法对该协调控制系统进行了闭环稳定性分析，并通过仿真验证了它的控制效果。最后，对全文工作进行了总结和展望。