工业自动化是实现智能制造的基本前提,系统建模又是工业自动化中实施众多控制与优化策略的核心与基础。随着规模扩大和复杂性的提升,现代工业系统呈现出较强的非线性特性,并存在诸如复杂噪声、外部扰动、数据采样约束、通信带宽与速率限制、执行器和传感器故障等量测受限情形,使得传统的建模与估计方法格外困难。由于观测数据中蕴含了系统运行的丰富动态信息,基于数据的系统辨识法成为复杂工业系统建模的重要手段。研究非线性特性的精确描述方法,以及量测受限问题的可靠处理机制,是保证系统辨识算法性能的关键。针对这些系统辨识领域亟待解决的关键问题,本文开展了量测受限下非线性系统概率建模与参数估计方法的研究,选取线性变参数模型与非线性状态空间模型为典型模型结构,考虑因系统量测约束导致的离群点/非高斯噪声、时滞、随机缺失与不规则采样等问题,形成相应的概率建模方案,并依托贝叶斯算法框架,实现非线性系统的鲁棒参数估计。主要研究内容概括如下:首先,本文针对离群点干扰下的线性变参数系统,基于多模型思想设计了鲁棒的参数估计算法。以局部模型身份隐变量反映系统工作模态,通过多个局部模型的加权组合来拟合系统全局非线性特性。引入Laplace分布对数据中存在的离群点进行建模,并选取模型参数和隐变量的共轭先验,建立了离群点干扰下线性变参数系统的概率模型。基于变分贝叶斯算法框架,推导了局部模型身份、模型参数及其不确定性的迭代估计公式。在数值例子和连续搅拌釜反应器系统辨识中,所提算法可获得比常规算法及鲁棒最小二乘支持向量机算法更优的估计性能。进一步地,本文研究了离群点干扰与量测缺失相耦合下线性变参数时滞系统的局部辨识问题。将缺失数据视为模型隐变量,引入形式更加灵活的学生t分布对离群点进行鲁棒建模,采用范畴分布和Dirichlet分布描述输入时滞身份和时滞的重要性程度,同时选取其余模型参数和隐变量的先验分布,构建了相应的概率模型。通过极大化对数边缘似然函数的变分下界,设计了量测受限下线性变参数局部模型的贝叶斯估计方案,度量了模型参数及其不确定性,并可通过极大化时滞后验概率分布估计出分段输入时滞。该方法引入反映时滞权重的隐变量,并分析了自动选择输入时滞数量的原理。充分的仿真和对比实验证明了所提方法在多种量测约束耦合情形下的有效性。为了描述工况变化剧烈导致的非线性行为,本文随后研究了随机传输时滞下线性变参数双率系统的辨识方法。基于全局辨识思想,将系统参数表示为关于调度变量的多项式函数形式。针对量测受限问题,采用学生t分布对离群点进行鲁棒建模,并推导了修正的鲁棒Kalman滤波算法,用于估计回归量中的未知快采样过程输出。同时将前述研究中输入时滞的估计方法拓展至随机传输时滞问题的处理,给出了全局模型参数及传输时滞后验概率分布的迭代更新公式,实现了传输时滞身份与数量的自动选择。在数值对比和电子带通滤波器实验中,验证了所提算法具有较高的参数、时滞及输出估计精度。作为非线性系统的另一类典型结构,状态空间模型通过引入状态变量反映系统内部动态特性,然而涉及到状态与参数的联合估计问题。因此,本文继续研究了非对称量测噪声下非线性状态空间系统的辨识问题。引入广义双曲偏学生t分布,描述量测噪声的非对称/偏态特性。基于极大似然准则和期望最大化算法框架,在期望步采用含拒绝采样的前向滤波后向仿真技术高效估计状态的后验概率分布,在最大化步通过优化求解全数据对数似然函数的条件期望（即Q函数）,得到模型参数的估计值。所提算法中,广义双曲偏学生t分布的隐变量作为观测数据的权重项,能够动态调整非对称量测噪声对参数估计的影响,保证了算法的鲁棒性。基于数值仿真和机电定位系统,验证了所提辨识算法的有效性,及其相对于传统算法和基于对称重尾分布鲁棒算法的优越性。最后,为了对模型参数的不确定性作以度量,本文针对具有线性参数的非线性状态空间系统（LP-NSSM）,提出了相应的贝叶斯估计方案。将未知参数视为随机变量,并融合参数的共轭先验信息,建立起该系统的贝叶斯概率模型,基于变分贝叶斯算法框架,实现了系统状态与参数后验概率分布的联合估计,进一步考虑了离群点和量测缺失等问题,提升了算法的鲁棒性能。所提算法的核心在于,将存在随机性参数的LP-NSSM状态估计问题,转化为具有确定性参数的增广LPNSSM状态估计问题,从而可利用非线性推断技术得到系统状态的近似后验分布。数值验证、机电定位系统和级联水箱系统辨识结果表明,所提算法的参数及状态估计精度均较高,且能够以方差统计量刻画模型参数的不确定性。