本文研究了一类随机切换非线性系统的故障检测和故障估计问题,提出不同的滤波方法对系统进行状态估计且取得较好的效果,并以此为依据构造残差信号判断是否发生故障,并对故障幅值进行估计。主要工作如下:首先,研究了随机切换非线性系统的基本概念,包括:切换规则与子系统状态空间方程。不同时刻,运行其中某个子系统。随着时间进行,不同子系统之间按切换规则进行随机切换,每个子系统通过非线性状态空间模型描述。之后,研究了故障诊断有关的知识,其中基于解析模型的方法是主要研究重点。其次,研究了传统卡尔曼滤波相关理论,并且针对其存在的问题与局限性,研究了平方根无迹卡尔曼滤波(Square Root Unscented Kalman Filter,SRUKF)与平方根容积卡尔曼滤波(Square Root Cubature Kalman Filter,SRCKF)方法,使其可以实现对非线性系统的状态估计。针对随机切换非线性系统不能确定何时运行哪个子系统的问题,为了减少问题复杂度,研究交互式多模型算法(Interactive Multiple Model,IMM)改进SRUKF及SRCKF,提出了交互式平方根无迹卡尔曼算法(IMM-SRUKF)及交互式平方根容积卡尔曼算法(IMM-SRCKF)对系统实现状态估计,该算法可以能够得到较准确的系统状态估计结果,还可以减少直接对随机切换非线性系统进行滤波的复杂度。根据滤波结果对随机切换非线性系统进行故障诊断,能够较为准确的检测到故障发生和估计出故障幅值。之后,通过仿真对两种算法优劣进行了比较。最后,因为卡尔曼滤波对非线性非高斯系统滤波效果较差,所以,针对这种限制条件,又研究了粒子滤波(Particle Filter,PF)方法,该方法可以对非高斯非线性系统取得较好的效果。针对传统PF存在采集粒子数目众多及粒子退化等问题,引入无迹卡尔曼滤波(Unscented Kalman Filter,UKF)与PF结合,提出了无迹粒子滤波算法(Unscented Particle Filter,UPF),该方法优化重要性密度函数的选取,减少采样点的数量,减少了计算复杂度。接下来针对随机切换非线性系统滤波存在的问题,利用IMM改进UPF算法,提出了IMM-UPF滤波算法,并可以获得较好的状态估计结果。在此基础上对处于非高斯噪声下的系统进行故障诊断,可以较为准确的检测到故障发生和估计出故障幅值。