随着我国航天航空事业的快速发展,新的设计模式、新材料和更轻的结构需求日益增长。在这种情况下,传统结构的线性假设方法难以满足工程分析要求。由于非线性的先验信息通常非常有限,采用系统辨识从测试数据中获得系统的准确非线性数学模型是一种有效方法,在验证和设计过程中具有极其重要的意义。本文致力于非线性系统识别方法研究,具体内容如下:首先,针对实测响应的附加效应影响和非线性局部定位问题,基于逆矩阵快速求解技术,提出一种基于频响函数的附加效应消除方法,通过确定附加效应引起动刚度矩阵变化量,基于Sherman-Morrison-Woodbury理论对实测频响函数进行处理,获得准确的动力学响应,提高振动信号采集的精度。结合非线性描述函数和谐波激励响应分析方法,实现了一种非线性局部定位分析方法。分别开展算例研究,利用非线性定位方法,基于非线性指标确定非线性单元位置,通过非线性子空间算法实现对系统的非线性系数评估。其次,针对复杂非线性源的多参数识别问题,基于恢复力曲面方法和非线性子空间方法,提出一种多源非线性混合识别方法。将非线性项看作系统的内部反馈力,则系统可分解为潜在线性系统部分和反馈力。通过恢复力曲面法对非线性阻尼特性进行表征,采用多项式表征系统刚度,利用非线性子空间对非线性源进行系数预识别,最终基于非线性贡献指数确定非线性类型及相应系数,获得潜在线性系统的模态参数。针对非线性阻尼及非线性刚度,分别开展仿真算例研究,研究结果表明:该方法兼具恢复力曲面法较好表征能力与子空间算法良好的鲁棒性,评估参数的实部具有较好稳定性,虚部几乎为零,说明算法具有较好抗噪性。然后,针对复杂结构的模型未知问题,提出了基于模型选择的非线性子空间系统识别方法,建立先验模型数据库,结合贝叶斯模型选择的方法,依次对备选模型采用非线性子空间识别进行评估,基于获得系统矩阵和及其模型系数,重构响应信号,计算后验分布,确定最优的非线性模型。开展仿真算例及试验研究,讨论不同非线性类型情况下该方法的有效性,研究结果表明:针对不同非线性类型,该方法均具有较好的适用性;以隔振结构为试验对象,基于识别的最优候选模型确定的恢复力与试验结果进行比较,验证了该方法有效性及在工程中适用性。最后,针对非稳态系统的识别问题,提出了基于参考点偏移和施加虚假激励的两种改进非线性子空间方法,将非稳定系统转化为稳定系统,继而采用非线性子空间识别。前者是从响应信号角度出发,确定系统的稳定平衡点,并以稳定平衡点作为参考原点,生成新的响应信号,建立等效稳定系统动力学方程。后者则是从激励角度出发,通过施加虚假激励,将系统负刚度转化为正刚度,获得等效稳定系统,从而评估非线性参数。通过开展试验工作,结合试验数据分析,提出与位移和速度相关的摩擦模型,研究结果表明:采用上述两种方法进行识别,验证所提方法具有识别速度和位移相互依赖的复杂非线性行为的能力。