当今工业控制系统功能不断趋于复杂化、集成化和智能化,一旦发生故障,不仅会造成经济损失,有时甚至还会危害人身安全。因此通过故障分析检测故障、寻找故障源和确定故障类型的故障诊断系统尤其重要。由于复杂系统可能存在强烈的非线性耦合现象,致使以获取精确解析模型为必要条件的基于解析模型的故障诊断方法存在高成本和高难度的问题。与此同时,随着计算机网络和先进传感器的不断发展以及在工业领域的广泛普及,表征系统运行状况的大规模数据集被采集并存储下来,因此采用数据驱动的方法进行故障诊断具有迫切的实践需求和现实意义。本文以存在非线性、不确定性和高复杂性的工业过程为对象,研究基于隐马尔可夫模型的复杂工业过程故障诊断及相关算法。隐马尔可夫模型是数据驱动的典型方法之一,基于隐马尔可夫模型的故障诊断,其性能很大程度上取决于故障诊断方法和隐马尔可夫模型算法本身的有效性。以此为主线,本文研究工作主要基于两个方面,一是基于隐马尔可夫模型的故障诊断方法改进,二是隐马尔可夫模型的参数估计算法改进。首先研究了基于隐马尔可夫模型的工业过程建模与故障诊断方法。采用左右型隐马尔可夫模型并使用全寿命历史数据对系统性能退化过程进行建模,使用期望最大化算法进行隐马尔可夫模型参数估计,并给出基于极大后验准则的健康状态估计与预报方法；给出一种基于隐马尔可夫模型参数增广的故障辨识方法,在维持隐马尔可夫模型原有性质的前提下扩展了以往各故障模式的状态空间与观测空间需要相同维数的限制,使得故障建模和辨识更符合实际。其次,考虑到实际需求和物理背景等都可以转化为带有约束的问题,而约束包含的先验知识又能够在一定程度上修正模型误差,因此研究状态转移矩阵带有非线性不等式约束的隐马尔可夫模型参数估计问题,提出参数近似估计算法。由于参数近似估计算法得到的解仅为可行解而并非最优解,因此进一步提出基于有效集策略的参数估计算法,并进行收敛性证明。多观测序列可以使隐马尔可夫模型更加准确地对所研究的系统进行建模,以描述系统内部与外部特性,因此进一步考虑三个参数矩阵都带有非线性不等式约束时带有独立多观测的隐马尔可夫模型参数估计问题。同时提出基于隐马尔可夫模型的在线故障检测和在线故障辨识方法,组成基于隐马尔可夫模型的在线故障诊断框架。将该算法运用于田纳西-伊斯曼化工过程的故障诊断,得到比基于主元分析、独立元分析和单观测隐马尔可夫模型更高的故障诊断准确率。独立性假设可以简化参数估计的计算过程,但是由于实际情况中存在多观测间不独立的现象,因此进一步考虑三个参数矩阵都带有非线性不等式约束且多观测间不相互独立的隐马尔可夫模型参数估计问题。通过构造权重函数的方式将似然函数转化为条件概率函数进行处理,同时通过构造辅助期望函数的方式转化为等价的优化问题目标函数并进行求解,然后通过收敛性证明说明提出的算法得到的参数估计值为最优解。同时给出两类特殊情况,即多观测相互独立和多观测间具有一致的相关性时的参数估计算法。将其运用于田纳西-伊斯曼化工过程的故障诊断,仿真表明该算法能进一步提高故障诊断准确率。最后,对全文的工作进行了总结,给出有待进一步研究的课题和今后工作的重点。