近空间飞行器(NSV)的发展关系着国家安全和对空间的开发利用能力，具有重要的战略意义和军事价值，近年来获得了世界各军事大国的高度重视和大力投入。NSV是一种新型的航空航天飞行器，在运行中表现出多工作模式、多任务、大范围高速机动等特点，对飞行安全性与可靠性提出了更高的要求，使其控制系统的可靠性设计成为一项极具挑战的前沿课题。基于此难点和挑战，本文围绕这一基础科学问题，在近空间飞行器动态建模，故障建模与分析，可靠容错控制器设计等方面展开了较为全面的研究，基于先进非线性控制理论系统而深入地研究了NSV的故障诊断与容错控制问题。首先，根据国内外已公开发表的文献资料建立了NSV高超声速飞行条件下6自由度12状态变量的运动学和动力学模型。该模型的高超音速特征体现在气动力、力矩系数是迎角，马赫数及气动舵面偏转角的非线性函数，飞行器的质心和惯性矩是质量的时变函数，发动机模型采用吸气式发动机和火箭发动机的组合推进形式。开环系统仿真分析表明该模型能够体现出NSV复杂非线性、强耦合性、不确定性以及快速时变性等特点，具有代表意义，可以满足对NSV飞控系统进行先进容错控制问题的理论研究及仿真验证的需要。然后，基于NSV动态模型研究了发生故障情况下的系统特征。根据飞控系统的特点，概括分析了其可能发生的故障类型：执行器故障，传感器及系统故障，及各种故障类型的参数表达式。针对飞行控制系统最常见和重要的执行器故障，考察了各气动舵面之间的冗余关系，分析了单故障及多故障并发模式下控制舵面的操纵问题，进而建立了NSV的故障数学模型，为故障诊断算法与容错控制器的设计奠定了基础。接着，基于模糊Takagi-Sugeno(T-S)逼近理论，在全面分析NSV高速巡航段纵向模型特点的基础上，确定相应的模糊规则和隶属度函数，建立了NSV纵向动态模型的模糊T-S模型。然后，考虑执行器发生故障的情况，提出了一种基于滑模观测器（SMO）思想的执行器故障诊断与容错控制方法。设计了一组滑模观测器，利用滑模观测器的输出与执行器的实际输出构造包含故障信息的残差信号用于检测故障，同时对故障估计作了进一步的研究，利用估计到的故障信息来调节故障，重构控制器。所设计的参数借助MATLAB的线性矩阵不等式(LMI)来求解，并基于Lyapunov理论证明了闭环系统所有误差信号均能以指数形式收敛到零。仿真验证结果表明，所提算法能有效地实现故障的检测、估计，并达到了容错控制的目标。随后，提出了一种基于自适应观测器思想的故障诊断与容错控制策略来处理近空间飞行器的执行器故障问题。基于NSV纵向模糊T-S模型设计自适应故障诊断观测器（AFDO），定义AFDO的输出和实际系统输出误差的范数作为残差来检测故障。进一步，研究了执行器失效故障，常值故障，时变故障等情况下的各种自适应故障估计算法，基于诊断到的故障信息，分别设计了容错控制器来补偿执行器故障对系统性能的影响。AFDO的增益矩阵通过求解线性矩阵不等式得到，故障估计参数采用自适应律调节，基于Lyapunov理论证明了误差系统的稳定性。最后，在NSV纵向模型平台上进行算法验证，结果表明所设计的方法不但可以及时地检测出故障，准确地估计故障，而且可以达到较好的容错控制性能。之后，利用神经网络（NN）对未知非线性函数的良好逼近能力，与Backstepping控制思想结合提出了一种新的鲁棒自适应容错控制结构。考虑设计Backstepping控制器，在此基础上利用径向基神经网络来逼近未知非线性不确定及故障项，设计自适应调节律来获取神经网络的参数，进而可以在Backstepping控制器中补偿不确定及故障的影响，改善系统性能。基于Lyapunov理论对自适应调节律作用下的闭环系统所有误差信号的最终有界性进行了严格地证明。上述方案在NSV再入姿态模型平台上进行了仿真验证，结果表明所设计的算法不仅可以容忍和补偿故障，而且对系统不确定性具有鲁棒性，具有非常优异的控制性能。NN逼近和补偿策略使得当前Backstepping方法获得了很大的发展，同时该方法具有广泛的适用性。最后，提出了一种基于滑模变结构控制技术的容错跟踪控制方法。滑模变结构控制器的不连续性特点使其能够克服被控系统的不确定性，对非线性系统的控制具有良好的控制效果。本文结合NSV再入姿态模型的特点，研究了基于奇异摄动理论构造快、慢回路并分步设计的策略，针对带有执行机构故障的快变量回路和带有不确定干扰的慢变量回路，分别构造滑模面来设计鲁棒容错控制器，使得所设计的全局控制器不但能渐近调节系统执行器故障所造成的影响，而且具有对不确定性干扰因素的不变性，即具有容错性能和鲁棒性，应用李亚普诺夫理论证明了误差系统在所设计的容错控制策略作用下的稳定性。仿真结果表明所提方法能抑制不确定，调节故障，从而准确跟踪状态轨迹和实现整体稳定，且具有较大的应用价值。