由于现代系统的复杂性,保证其稳定可靠至关重要,促使人们更多关注容错控制的研究。容错控制是指当控制系统中的某些部件发生故障时,系统仍能按期望的性能指标或性能指标略有降低(但可接受)的情况下,还能安全地完成控制任务。容错控制理论的发展已十分丰富,但趋于成熟或基本成熟的大多针对线性系统。由于非线性系统控制理论的不完善,且大多是针对特定非线性系统进行研究,因此现有对非线性系统的容错控制问题也大都是针对特定的非线性系统进行研究,且研究成果非常有限,有待进一步研究。容错控制通常被分为被动和主动容错控制两大类,前者不需要故障诊断,其设计难免过于保守,其性能不可能是最优的,并且对于不可预知故障,系统的性能甚至稳定性都可能无法保障;而后者能够利用获知的各种故障信息,可以对发生的故障进行主动处理。因此,主动容错控制是当前研究的热点。非线性系统基于人工智能技术的主动容错控制是研究的比较多的方法,主要分为三类:利用人工智能技术建模,估计和控制。虽然利用人工智能技术方法对系统模型要求不高,特别适用于复杂对象,但其最大的缺点是很难从理论上分析系统的稳定性。本论文利用学习方法克服建立非线性解析模型的困难,直接利用输入输出数据在一定程度上逼近实际对象,估计未知故障,避免非线性系统的观测器或滤波器设计的困难。针对不同非线性系统,应用李亚普诺夫稳定性理论构建故障补偿控制算法,从而实现非线性系统的稳定自适应容错控制。针对仿射非线性系统,给出非线性标称系统轨迹线性化控制(TLC)结构;利用神经网络学习方法逼近故障模型,基于模型参数变化应用李亚普诺夫稳定性理论构建故障补偿控制律,从而实现系统故障下的稳定有界容错控制。针对仿射非线性系统,在上述研究的基础上,考虑系统动态特性复杂时,由于要重复计算时变微分,轨迹线性化控制器设计变得不切实际,于是应用神经网络学习方法实现标称系统的轨迹线性化控制;同时考虑神经网络逼近系统误差、不确定项及故障,将其看作非线性系统的正则摄动进行理论证明,得出满足一定假设条件的稳定域。针对可由非线性自回归滑动平均模型(NARMAX)描述的非线性系统,应用支持向量机学习方法构建标称系统回归模型,通过实时输出与回归模型残差判断故障,根据残差应用李亚普诺夫稳定性理论建立调整标称控制器参数的控制律,从而实现系统故障下的稳定有界容错控制。针对可由非线性自回归滑动平均模型(NARMAX)描述的非线性系统,应用支持向量机学习方法构建系统正模型,在线自适应地学习故障动态变化;接着设计一个基于支持向量机的逆模控制器,通过扩展卡尔曼滤波(EKF)算法形成迭代逆,计算优化控制变量,从而使系统在故障发生后维持其稳定性及控制性能。将上述研究方法分别应用于喷气式发动机压缩系统模型和三水箱系统Benchmark模型进行仿真研究,仿真结果验证了所提方法的可行性和有效性。论文研究结果丰富了容错控制系统设计理论,拓宽了学习方法的应用领域,为提高复杂系统的安全性和可靠性提供了有益的指导。