齿轮传动系统在工业中被广泛应用于功率传递、转速变换等场合。在真实工作情况下,齿轮的齿廓表面往往会偏离理论齿廓面,从而形成齿廓偏差。齿廓偏差主要来源于轮齿修形（齿廓修形和齿向修形等）、齿面损伤（点蚀、剥落、磨损和胶合等）、制造误差和装配误差（平行不对中和角不对中）等。齿廓偏差会改变齿轮副的接触状态,造成啮合特性的变化,而啮合特性的变化又会进一步地影响齿轮系统的动力学特性。考虑齿廓偏差的影响,本文旨在建立直齿轮副啮合特性分析模型和齿轮-转子系统动力学模型,进而研究齿廓偏差对齿轮副啮合特性和系统动力学特性之间的影响规律。本论文的研究主要从以下几个方面展开:（1）基于轮齿承载接触分析（LTCA）方法,建立修形齿轮副啮合特性分析模型,并利用有限元方法验证了本章模型的有效性（刚度误差小于5%）和高效性。分析了齿廓修形和鼓向修形对啮合刚度、齿根应力和接触应力的影响。研究结果表明,齿廓修形能有效地减缓单双齿交替时刻的啮合刚度与应力的突变;鼓向修形可以有效地补偿不对中量,缓解偏载造成的应力集中。（2）利用二维和三维LTCA方法分别计算了均载和偏载情况下的载荷分配和齿面接触应力。结合所求得的接触应力与Archard磨损理论,建立了齿轮副磨损预测模型。通过对比文献中实测的齿根部位磨损量验证了所建立模型有效性。分析了磨损、齿廓修形、齿向修形和不对中对齿轮副啮合特性的影响。研究表明轮齿修形能有效地缓解不对中带来的应力集中,大幅降低齿根和齿宽边缘位置的剧烈磨损。（3）针对疲劳实验机获得的真实剥落形貌,基于三维LTCA方法,提出了一种考虑三维真实剥落形貌的剥落齿轮副啮合特性分析方法。分别利用所提出的方法、传统接触线长度等效方法和有限元方法,开展剥落齿轮副啮合特性（啮合刚度和接触应力）分析。对比结果表明,所提出的方法能精确计算含复杂剥落形貌的齿轮副啮合刚度和接触应力。（4）基于Timoshenko梁理论和壳理论,建立了柔性齿轮-转子系统动力学模型。在此基础上研究磨损对齿轮动力学的影响,分析了磨损和偏载对齿轮基体柔性体振动的激发机制。研究表明,在非共振区,准静态磨损预测模型与动态磨损预测模型预测结果类似;磨损和偏载产生的时变啮合力矩可以提供轴向方向的激振力,从而激发薄轮缘齿轮的节径振动。（5）考虑三维真实剥落形貌,建立了剥落齿轮系统动力学模型。通过与实验测试的时域、频域以及性能指标的对比验证了所提出的模型的有效性。分析了剥落形貌、剥落位置对振动特性和故障特征指标的影响规律,揭示了剥落所引发的啮合力矩对齿轮基体节径振动的作用机制。结果表明,剥落故障越严重,时域冲击和边频特征越明显;剥落导致的冲击型激励所引发的齿轮基体振动形式为多种节径振动的叠加。