齿轮系统作为重要的动力传动部件广泛用于汽车、风电机组、船舶等重大机械设备,其可靠运行有利于经济效益的增长和生命财产安全。所以本课题以定轴轮系和行星轮系为对象,针对齿轮系统混合故障特征提取和调幅调频信号准确分离的难点,研究齿轮故障时振动调幅调频机理,提出齿轮故障特征的提取方法和调制信号的分离方法,对齿轮故障诊断具有重要意义和工程实用价值。(1)推导了定轴齿轮周期性转速波动时啮合刚度产生调频成分的公式,研究了其对振动响应的影响。考虑不同故障时的转速波动,建立调幅调频响应现象学模型,解析调频调幅特征与故障模式之间的映射关系,建立故障振动响应信号数学模型。齿轮平稳型故障时振动响应中啮合频率谐波附近有非对称的调幅调频边带,且低频有故障齿轮的特征频率谐波;冲击型故障齿轮产生的振动响应中除啮合频率谐波附近的非对称调幅调频边带外,还有分布在全频带的齿轮故障特征频率的谐波成分,且非线性激励会产生虚假共振峰。研究表明故障时转速波动引起的调频啮合刚度和调频响应的乘积会产生调频调幅。利用集中参数法求解齿轮故障时的振动调幅调频响应,其调制边带特征与基于现象学模型的齿轮故障振动调制边带特征相同。齿轮故障试验中的振动响应调幅调频边带特征与理论分析结果相符。(2)研究行星轮系齿轮故障产生的周期性转速波动对齿圈啮合位置波动时时变传递路径函数和啮合力方向投影函数的影响,基于定轴齿轮故障振动调幅调频研究,建立太阳轮、单个行星轮和齿圈分别出现平稳型或冲击型故障时的振动响应现象学模型,分析齿轮故障时调幅调频边带的产生机理和分布特征。利用集中参数模型求解太阳轮和齿圈故障时振动调幅调频响应。集中参数模型求解结果、现场实测风机齿轮箱和单级行星齿轮箱故障模拟的振动响应调制边带分布特征与基于现象学模型的齿轮故障振动调幅调频边带分布特征高度吻合,与不考虑齿轮故障引起转速波动时的振动纯调幅相比,振动调幅调频响应的频率分布特征研究很大程度上完善了现有齿轮故障振动调制机理研究。(3)基于齿轮系统故障调制机理和稀疏分解理论,提出一种提取齿轮混合故障特征的方法。设计能表征齿轮平稳型和冲击型故障的双字典,将分裂增广拉格朗日收缩算法和硬阈值降噪方法结合分块求解稀疏系数,实现平稳型和冲击型故障特征的同时提取。研究了算法中拉格朗日乘子、惩罚因子和阈值参数的最佳取值范围。仿真和试验验证了该方法的有效性,并说明该方法比基于匹配追踪和调Q小波变换的齿轮故障分离方法计算效率更高,抗噪性更好,且能将完全耦合的稳态调制成分和冲击调制成分有效分离。(4)基于齿轮故障振动调幅调频信号数学模型,利用平方幅值解调和基于第一类贝塞尔函数的解调频提出了将啮合频率谐波附近的调幅调频信号准确分离的方法。该方法中离散频谱校正技术用于校正调制频率和幅值,并将其用于构造关于调幅调频成分参数的非线性方程组。信赖域反射最小二乘优化算法用于求解非线性方程从而将调幅和调频成分分离。仿真研究表明该方法比希尔伯特变换解调和基于能量算子的解调方法准确性高,抗噪性好。利用该方法提取定轴齿轮箱不同故障试验时啮合频率两侧的调幅调频成分,结果表明平稳型故障和冲击型故障时分离的调频成分有明显的区别,且故障越严重,调制成分的幅值越大,从而可为齿轮故障诊断提供一种新的方法。