直齿圆柱齿轮作为载运工具中最常见的基础零部件之一,在铁路、公路和航工等重要领域中都起着至关重要的作用。由于其本身结构的复杂性及内外部激励的共同作用,使得齿轮系统是一种既包含非线性因素,又包含参数激励的弹性结构系统,在啮合过程中表现出复杂的动力学响应特征。另外,运行过程中极易出现由疲劳、过载和不良润滑等原因引起的局部故障,严重影响整个机械设备的工作效率和安全性。因此,对齿轮系统的非线性动力学行为和故障机理展开研究,对于机械设备的早期故障诊断、齿轮设计和安全维修具有重要的理论意义和工程应用价值。本文以单级直齿轮减速器为研究对象,研究其非线性动力学响应,并分析齿根裂纹和齿面点蚀故障机理及齿轮系统的故障振动响应。论文主要研究内容如下:（1）利用增量谐波平衡法得到系统周期解并分析系统动态响应。首先得到了直齿轮副扭转振动模型,其中考虑的主要影响因素有齿侧间隙、时变啮合刚度和传动误差。基于分数阶微积分理论,建立了三类含有分数阶微分/积分的非线性参数激励齿轮副扭转振动模型。利用增量谐波平衡法将描述齿轮系统的非线性常微分方程转化为代数方程组,然后求得模型的近似周期解。最后研究了齿轮系统动力学行为随重要参数变化的情况,包括冲击状态、振动幅值、转变频率和主、超谐共振等。研究表明,利用增量谐波平衡法得到的解析解与幂级数展开法得到的数值解基本重合,研究结果可以为齿轮参数的设计和优化提供一定的理论指导,并为故障机理的研究奠定基础。（2）研究了多自由度齿轮系统的参激共振问题。在齿轮系统的扭转振动模型中,若同时考虑齿轮副支承系统的垂向振动及主、从动齿轮支承轴承的间隙,建立了多自由度直齿轮模型。利用多尺度方法求解了该模型在3:1内共振下的主参激共振和组合参激共振的稳态解,并结合Lyapunov第一方法对稳态解的稳定性进行了分析。研究了系统重要参数,如齿侧间隙、轴承支承阻尼和齿轮啮合阻尼,对系统稳态解幅值及稳定性的影响规律。从动力学的角度明确了稳态解的稳定区和非稳定区,确定了影响系统稳定性的因素。（3）研究了齿根裂纹影响下时变啮合刚度的变化情况和齿轮系统的故障振动特征。齿根裂纹存在并逐渐扩展超过轮齿中线,基于能量法计算了含齿根裂纹的直齿圆柱齿轮在单齿啮合区和双齿啮合区的刚度。考虑到轮齿的实际形状,提出了一种改进的变截面悬臂梁模型,用于计算时变啮合刚度,其中将轮齿建模为始于齿根圆的悬臂梁模型。构建了四类齿根裂纹模型,计算了十三种裂纹水平下的时变啮合刚度。对含有齿根裂纹的单级齿轮减速器的故障振动特征进行了分析。最后利用含齿根裂纹和断齿故障的齿轮加速度振动信号定性地验证了理论结果的正确性。通过分析可知,由于齿根裂纹的出现,啮合刚度发生显著变化,改进的变截面悬臂梁模型降低了计算误差,可以求出更加准确的时变啮合刚度。（4）基于新型齿面点蚀模型计算了点蚀影响下的时变啮合刚度并研究了齿轮系统的故障振动特征。提出了一种描述齿面点蚀故障的新模型,该模型将每个点蚀形状近似地视为椭圆柱的一部分,其中考虑了齿数的多少,用从齿根圆出发的变截面悬臂梁模型来模拟轮齿。根据点蚀在齿面上的分布位置和数量定义了三种损伤级别:轻度点蚀、中度点蚀和重度点蚀。基于能量法计算并比较了无故障齿轮和含有不同程度齿面点蚀齿轮的时变啮合刚度。讨论了点蚀位置和点蚀尺寸对时变啮合刚度的影响。研究了单级直齿圆柱齿轮传动系统的故障动态特性,并利用动力传动故障诊断综合实验台对理论结果进行了实验验证。新型齿面点蚀模型考虑了各个点蚀之间的重叠,与实验和实际工程应用中的点蚀形状更接近。研究结果表明,开展齿轮系统的非线性动力学行为演化和控制的研究,以及对齿根裂纹和齿面点蚀产生机理的分析,对于揭示齿轮动力学的深层特性,深入了解机械设备振动和噪声产生的可能原因具有重要意义,从而对推动非线性动力学和控制学科的发展、保障机械设备的安全稳定运行具有重要的理论价值和长远的工程指导意义。图87幅,表10个,参考文献167篇。