作为系统和控制科学的核心问题之一,系统辨识在控制系统的设计与分析方面得到了广泛地应用,并且已经深入到了生物学、生理学、医学、社会学等众多的科学技术领域。从而,系统辨识成为目前相当活跃的学科之一,吸引了大量的科技人员对其理论进行研究,探讨在不同实际问题中应用的可能性。在系统辨识方法研究中,由于工程实际对象的复杂性,使得非线性系统辨识方法在工程对象的分析中表现出明显的优势。然而,因为非线性系统固有的复杂多样性,目前关于非线性的研究还远没有达到成熟的程度,蕴涵在复杂现象背后的“本质问题”还没有完全揭示出来。因此,传统的辨识方法始终未能很好地解决复杂的非线性对象的辨识,非线性系统的辨识一直是当今国际辨识界所关心的问题。辨识非线性系统的困难之一就是缺乏描述各种非线性系统特性的统一的数学模型。为此,这就需要人们分门别类地去探讨研究,解决所遇到的各种具体问题。因此,本文对模块化非线性系统的辨识算法进行了探讨和研究,期望在实际问题的应用中取得良好效果。论文的具体研究工作如下：1.利用粒子群优化算法研究了非线性系统的辨识问题。基本思想是：将非线性系统模块化后,给出基于粒子群优化算法的新型辨识方法。即就是说,首先,由典型数学模型相互组合来构成系统模型,将系统结构辨识问题转化为组合优化问题；然后,采用粒子群优化算法对系统的结构与参数进行辨识。利用仿真结果说明了所给的辨识方法是合理的和有效的。2.针对非线性环节为分段函数的模块化非线性系统,利用关键变量分离的原理,分离出线性环节的关键变量,将非线性环节表达式代入到其中去,使整个系统的输出表示为所有待估参数的回归方程形式。然后,将回归方程信息向量中未知真实输出、未知中间变量和不可测噪声项分别用辅助模型的输出、中间变量估计值和估计残差来代替,将非线性系统的辨识问题转化为参数空间上的函数优化问题。接着,采用粒子群优化算法获得该优化问题的解。最后,进行了仿真研究,其结果验证了所给辨识方法的有效性。3.研究了由一线性动态子系统和一无记忆的非线性增益串联构成的模块化非线性模型的盲辨识算法问题。当系统输入不采用高斯随机信号时,利用循环平稳输入信号的一阶统计特性和模型非线性部分的逆映射,将有输入信号的系统辨识过程转变为无输入信号的辨识过程,并且利用输出信号恢复了所有的中间变量。然后,通过支持向量机线性回归算法和高阶累积量方法来求取模型的参数。最后,仿真结果表明了所给的盲辨识方法是有效的和稳定的。4.针对一类多输入单输出的模块化非线性模型,其辨识问题可等价成以待估计参数为优化变量的非线性极小值优化问题。该方法的基本思想是将非线性系统的辨识问题转化为参数空间上的优化问题,然后,采用粒子群优化算法获得该优化问题的解。为了进一步增强粒子群优化算法的辨识性能,提出了利用一种混合粒子群优化算法。最后,通过仿真结果说明所给辨识方法的有效性和实用性。5.研究了对单输入单输出的采样模块化非线性Hammerstein-Wi ener模型的盲辨识算法问题。当系统输入不采用白噪声信号时,通过盲信号处理方法,仅仅利用输出信号恢复了所有中间变量。然后,通过支持向量机线性回归算法求取了模型的线性部分和非线性部分的参数。最后,在仿真实验中,与使用最小二乘法进行了比较,结果表明了所给的盲辨识方法是切实可行的。6.为了提高小波神经网络对非线性系统的辨识性能,利用一种改进粒子群优化算法对BP小波神经网络参数进行训练,求得最优值,达到对非线性系统辨识目的。在数值仿真中,与采用标准粒子群优化算法相比,结果显示了所给的方法在收敛性和稳定性等方面均得到了明显地改善。