在各种机械设备中，齿轮作为传递运动和动力的零件其作用是十分重要的。齿轮具有传动平稳，效率高，使用的功率、速度和尺寸范围大等诸多优点。为了保证设备运转正常、实现更多的经济效益和社会效益，对齿轮的研究已经成为了减少设备故障的重要方面。本论文主要是对含不同程度裂纹的齿轮进行分析，重点研究了两种基于相空间重构的非线性分析方法——递归图分析方法和递归定量分析方法。最后把递归图二维熵应用于含不同裂纹程度齿轮信号，结果表明，递归图二维熵可以作为一种新的递归定量分析指标，并为以后分析齿轮故障诊断提供了方法基础。主要研究内容及结论如下：(1)研究了齿轮系统非线性动力学。介绍了递归图和递归定量分析的国内外主要研究现状，确定了该方法能够应用于含裂纹齿轮系统之中。(2)引用了文献中的齿轮系统动力学模型。并且通过齿轮模型模拟出了不同裂纹程度齿轮的时域波形图。设计加工了不同裂纹程度的齿轮。对原有的齿轮箱故障实验台进行改进，并通过更换不同裂纹程度的齿轮，进行了故障诊断实验，测得了大量的数据，为进一步研究不同程度齿轮裂纹打下了基础。(3)对不同结构类型的仿真信号、含不同裂纹程度齿轮系统仿真信号和实测齿轮信号这三种信号进行了递归图和递归定量分析。通过递归图分析得出，不同结构类型仿真信号的递归图纹理结构区别明显；含不同裂纹程度齿轮系统仿真信号和实测齿轮信号表现出的递归图的纹理有一定的规律。递归图能够对齿轮仿真信号的裂纹程度和实测齿轮信号的裂纹程度进行识别。通过递归定量分析表明：随着裂纹程度的变化，某些特征量在数值上体现出了一定的变化规律。(4)找到了新的递归定量分析的指标——递归图二维熵。分别对以上三种信号进行了分析。研究表明，递归图二维熵在这三种信号的分析中可以作为一个新的指标，为解决问题提供了一种新思路。最后，对论文中所取得的结论进行了总结，并提出了下一步的研究方向与研究内容。