在机械设备中齿轮箱是最重要的动力传动部件，其健康状况直接影响着机械设备能否正常工作，若能准确的预测故障的位置，就可以有效的避免故障所带来的巨大人力和财力损失，因此研究新型复合故障诊断方法对齿轮箱的正常运行具有举足轻重的作用。通过振动加速度传感器所采集到的振动信号通常是非平稳信号，尤其是在工作现场采集到的信号更是受到各种背景噪声的干扰，导致微弱故障特征经常被噪声所淹没。此外，当齿轮箱出现故障时，往往产生了位置不同、形式不同、程度不同的复合故障，每个故障之间相互干扰、相互影响、相互耦合。尤其是在强背景噪声条件下，微弱故障还极易被噪声淹没，从而给故障诊断带来了挑战。因此对强背景噪声下复合故障进行诊断是当今的技术难点。本论文针对以上问题，在国家自然基金（50775157）；山西省基础研究项目(2012011012-1)；山西省高等学校留学回国人员科研资助项目(2011-12)的资助下，把齿轮箱作为研究对象，以近几年比较新的降噪方法作为研究手段，同时以齿轮箱复合故障作为研究目标，对强背景噪声环境下，从复合故障振动信号中准确的提取故障特征信息，进一步对故障特征进行分离进行了深入的研究。论文主要研究结论如下：(1)用EEMD(Ensemble Empirical Mode Decomposition)对强噪声的多调制源多载波频率的仿真信号进行分解，发现单一的白噪声幅值直接影响着EEMD的分解效率。针对这个问题，论文提出了CMF(Combined ModeFunction),即将EMD(Empirical Mode Decomposition)分解得到的与原信号相关性较强的IMFs按高低频进行叠加，形成两个新的组合模态函数ch和c L，然后通过添加不同的白噪声幅值对c h和cL分别进行EEMD分解，最后对敏感的IMFs分别进行循环自相关函数解调分析，将提出的方法应用于仿真信号和复合故障齿轮箱试验台，成功提取了多故障特征，验证了此方法的有效性。(2)针对强噪声环境下滚动轴承故障信号微弱、故障特征难以提取等问题，本文提出基于最小熵反褶积（Minimum entropy deconvolution，MED）和EEMD相结合的方法来提取复合故障中滚动轴承微弱故障特征。通过对仿真信号分析发现：在强背景噪声下EEMD对微弱信号的特征提取具有很大的局限性。为了剔除噪声干扰，提取微弱故障的特征信息，本文选取MED作为EEMD的前置滤波器，验证了其强大的降噪功能。同时将MED与EEMD相结合的方法用于复合故障的微弱故障特征提取，即先用MED对强背景噪声下风电齿轮箱试验台进行降噪处理，然后再对降噪后的信号进行EEMD，最后对敏感的本征模态函数(IMFs)进行循环自相关函数解调分析。这种方法与EEMD进行对比分析，表明了此方法有效性，从而为多故障共存并处于强背景噪声下的微弱特征提取提供了一种新的方法。(3)循环平稳信号具有非平稳性特点，因此用循环平稳的特征来研究循环统计量是很有必要的。循环二阶谱适用于周期性振动信号，但通过仿真信号发现在强背景噪声下，时域的离散化并没有导致循环自相关函数在循环域内周期化。此外，多载波频率共存或比较接近时在高频处不可避免的出现了混迭现象。(4)研究了最大相关峭度反褶积（Maximum correlated Kurtosisdeconvolut on，MCKD）的降噪特点，同时对它的参数（位移数、周期和迭代次数）进行了讨论和分析。(5)针对多调制源、多载波信号的循环自相关函数解调分析存在交叉项的干扰,这使循环自相关函数解调方法的实际应用产生了局限性。本文提出了基于最大相关峭度反褶积（Maximum correlated Kurtosis deconvolution，MCKD）和循环自相关解调方法，先通过MCKD对原信号进行降噪，以便提取感兴趣的周期成分，再对降噪后的周期信号通过循环自相关解调分析，有效地抑制了多调制源、多载波对循环平稳结果带来的交叉项干扰,提高了分析的可靠性。将该方法运用于复合齿轮箱故障诊断中，成功地从振动信号中分离出故障源。针对旋转机械在强噪声背景下的复合故障诊断是当前机械故障诊断领域的难点。本文以风电齿轮箱为研究对象，对齿轮点蚀、轴承内外圈点蚀等复合故障的振动信号进行分析。通过仿真信号和工程实例表明将EEMD、MED、MCKD、CMF、循环域解调等方法相结合，可以成功提取强背景噪声下复合故障的特征频率，实现了由单一故障到多故障的突破，应用前景广阔。