论文针对具有多变量、时滞、不确定性或模型未知的复杂非线性系统,将状态观测器理论、鲁棒控制控制理论、自适应控制理论与先进的智能技术包括神经网络和Takagi-Sugeno(T-S)模糊模型有机结合,研究了系统状态不可测时的故障诊断和主动容错控制。首先,给出了非线性系统能观的有关概念,针对部分模型已知的非线性系统,当系统相对阶为n(n为系统的阶数)时,提出了一种观测器设计方案,利用非线性变换,将含有建模误差的非线性系统变换为仅依赖原系统的输入、输出的规范形式,从而可利用可测数据构造观测器。当系统的相对阶小于n但为最小相位系统时,用RBF神经网络逼近系统的不确定性,解决了具有不确定性非线性系统的观测器设计问题。在解决了状态观测器设计问题之后,针对一类含有部分模型已知的非线性系统,利用非线性变换的方法研究状态不可测时的故障诊断问题。RBF神经网络作为故障估计器,其输入为系统的估计状态,输出为估计的故障,既可用作构造容错控制律也可用作报警。针对一类模型未知非线性系统,提出了基于自适应神经网络的故障诊断策略,用一个RBF神经网络构造状态估计器,用另一个权值和中心可以在线调整的RBF神经网络构造故障估计器,解决了模型未知且系统状态不可测时的故障诊断问题。本文与常规的应用LMI(Linear Matrix Inequality)研究时滞系统的方法不同,针对一类状态不可测且模型未知的非线性时滞系统,提出了基于神经网络的故障诊断新方法。直接估计系统的状态及时滞状态,然后作为神经网络的输入对故障进行估计,并对系统的稳定性进行了论证。仿真结果表明该方法简单有效。非仿射非线性系统的研究比一般的仿射非线性系统更复杂。针对一类非仿射非线性系统,研究了基于状态观测器的鲁棒自适应H_∞跟踪控制问题。RBF神经网络用来在线抵消非线性模型误差,高增益观测器用来估计不能直接测量的输出导数。在系统没有扰动时,确保跟踪误差渐近趋于零且系统的所有信号有界;当扰动存在时,能取得预期的H_∞跟踪性能。由于磁悬浮系统的非线性模型为非仿射非线性系统,本文方法针对磁悬浮系统进行了大量的仿真研究。在一般的T-S模糊模型的控制方法中,为了保证控制效果,对被控对象局部模型的要求精确已知,这个条件对于复杂的系统难以满足。文中利用T-S模糊模型与自适应控制相结合,降低对系统模型的精度要求。针对一类发生执行器故障的非线性系统,提出了基于T-S模糊模型和模型参考自适应控制结合的容错控制设计方案。在系统发生故障时,系统能够重构控制律以抵消故障对系统的影响,维持系统的稳定性以及期望的跟踪性能。在涉及到执行器卡死的主动容错控制时,如何确定卡死的程度以及如何利用故障信息重构控制律是一个重要的问题。文中针对执行器失效的一类非线性系统,提出基于迭代学习观测器的模糊容错控制律,利用T-S模糊模型对非线性系统进行建模和控制。一旦系统发生故障,迭代学习观测器在估计系统状态的同时估计执行器的卡死值,然后利用估计的状态和故障信息构成反馈模糊控制律进行调节,以实现故障系统对参考系统的状态跟踪。文中通过飞机和磁悬浮等系统的一系列数字仿真验证了本文方法的有效性。