行星轮系是机械传动中广泛应用的重要部件。行星轮系中一对齿轮啮合时,由于速度和负载的变化,在运转过程中会产生啮合冲击,加速啮合齿轮的疲劳,引发齿轮啮合面裂纹的产生及其演化,最终导致齿面之间发生更为严重的冲击、振动或者异常运行噪声等故障。本文针对行星轮系内太阳轮和行星轮裂纹及其裂纹损伤程度的早期微弱故障特征难以辨识等问题,利用Volterra级数非线性系统模型理论,研究了基于Volterra级数的行星轮系中太阳轮和行星轮齿轮裂纹及其损伤程度的故障诊断方法。本文主要研究了一下几个方面:（1）首先介绍了Volterra级数的背景知识介绍,分析了Volterra级数的时域和频域的表达形式,其次阐述了Volterra级数的基本性质和广义频率响应函数,最后描述了Volterra级数模型在故障诊断中的基本思路。（2）针对Volterra核函数的求解问题,研究了经典的Volterra核函数的最小二乘和神经网络求解方法,并对最小二乘法和神经网络法的特点和使用范围作了总结。本文首先优化了BP神经网络算法易陷入局部极小的问题,在此基础上,提出了一种遗传算法优化的BP神经网络求解Volterra级数核的方法。该方法首先利用系统输入输出振动信号确定Volterra模型;其次通过遗传算法优化的BP神经网络法有效地对Volterra级数核进行求解;最后利用非线性系统进行仿真分析,验证遗传算法优化的BP神经网络辨识Volterra级数核方法的可行性,并对其进行抗噪音分析与实验,验证了Volterra级数核具有良好的抗噪性。（3）使用测得的行星齿轮箱转速与振动信号以及负载与振动时域信号作为原始参考,通过最小二乘求解方法,神经网络求解方法以及遗传算法优化的BP神经网络方法进行对比分析,验证本文提出方法的准确性和适应性。同时,讨论了Volterra级数的阶数和记忆长度对辨识精度的影响。（4）在实验部分,本文利用行星齿轮箱故障加载试验台完成了数据的采集工作,包括太阳轮和行星轮的正常和不同程度的裂纹实验数据,以及在变速工况下对有无负载的实测数据,探究了负载对Volterra级数模型的影响。然后添加不同的高斯白噪声验证Volterra级数模型的鲁棒性。通过实测数据建立Volterra实验模型,并将各阶核函数广义频率响应进行对比分析,讨论了各阶核函数对裂纹故障程度的区分能力强弱及适应范围,验证了改变核函数阶数对辨识结果的影响。（5）最终实验结果表明:（1）利用遗传算法优化的BP神经网络辨识Volterra核函数具有良好的精度;（2）Volterra级数模型三阶核比二阶核更能够直观、细致地描述多因素耦合条件下的强非线性系统模型;（3）Volterra级数模型三阶核的广义频率响应能够有效对不同程度齿轮裂纹微弱故障进行区分。