本文主要研究如何利用粒子群方法解决含有约束条件的非线性系统辨识问题,并在此基础上研究如何改进罚函数设计方法和改进粒子群方法以提高算法的辨识性能。论文首先给出了系统辨识的定义以及研究非线性系统辨识方法的理论和实践意义,简要介绍了辨识方法的发展历史;然后详细阐述了非线性系统辨识的基本原理以及非线性系统模型,列举了常用的传统辨识方法,并对非线性系统辨识方法的性能要求进行了分析;之后详细阐述了基本粒子群算法的算法原理,算法流程并对算法的性能给出了数学分析,详细介绍了传统罚函数的设计原理以及主要的改进方法,在自适应罚函数法的基础上提出一种改进型自适应罚函数法以提高非线性系统辨识的辨识准确性;最后针对基本粒子群算法中存在的“早熟”和收敛速度缓慢问题提出一种双粒子群算法,可以降低算法出现“早熟”现象的可能性并提高收敛速度。本文中算法均使用Matlab对其性能进行了充分的仿真与比较,仿真结果表明所提出的改进型自适应罚函数法可以提高非线性系统辨识的辨识准确性,同时双粒子群算法可以有效降低算法在非线性系统辨识时陷入局部最优解的几率并提高收敛速度。