滚动轴承和齿轮等作为关键的传动部件,在机械系统中占有举足轻重的地位,被广泛应用于工业领域中。但是,由于环境的复杂性,这些传动部件在运行过程中往往承受着动态载荷,导致故障与损伤频频出现。轴承或齿轮在运行中一旦出现故障,将严重影响设备的正常运行,甚至出现事故和人员伤亡。因此,开展旋转机械早期故障检测与诊断研究具有重要意义。共振解调是一种常用的信号处理与故障诊断方法,能够有效提取淹没在背景噪声中的微弱信号,其难点在于如何找到合适的解调频带。最近提出的自相关谱峭度（Autogram）采用最大重叠离散小波包变换划分频域信号,以平方包络信号无偏自相关峭度作为特征指标获取最优解调频带。论文在国家自然科学基金（编号:51975004）的资助下,详细研究了Autogram方法,并对其相关理论进行完善。论文的主要研究工作及创新点如下:（1）针对Autogram在强背景噪声干扰下所得频带滤波信号特征频率不明显的问题,提出了一种基于最小熵解卷积与Autogram的故障诊断方法。该方法首先通过最小熵解卷积抑制噪声,然后采用Autogram提取降噪信号的最优解调频带。将所提方法应用于仿真与轴承实测信号中。结果表明,该方法能够有效突出频带滤波信号的故障特征频率。（2）针对Autogram方法无法根据信号本身特征自适应确定频带分割位置的缺陷,提出了一种基于顺序统计滤波改进Autogram的故障诊断方法。该方法以顺序统计滤波（Order statistic filtering,简称OSF）与平滑处理对传统经验小波变换进行改进,并基于此,对频域信号进行自适应分割。通过仿真与实测数据对所提方法进行验证,结果表明,所提方法能够根据信号本身特征准确地提取最优解调频带,故障特征更加明显。（3）针对基于OSF改进Autogram方法在自适应分割频带时无法抑制噪声及无关分量对诊断结果的影响,提出了一种自适应频带分割法—极大值包络Autogram（Maximum envelope-based Autogram,简称MEAutogram）,该方法能够根据频域信号特征自适应确定分割位置。随后,通过引入辛几何模式分解（Symplectic geometry mode decomposition,简称SGMD）抑制振动信号中的背景噪声及无关分量,提出了基于MEAutogram与SGMD的齿轮故障诊断方法,提升了检测最优频带的准确性。将所提方法应用到仿真与齿轮实验数据中,最终结果验证了所提方法的优越性。（4）针对MEAutogram无法有效提取频域中幅值较低区域处频带的问题,提出了遍历辛相关峭度图（Traverse symplectic correlation-gram,简称TSCgram）。即:首先采用遍历分割模型对频域信号进行处理,得到具有不同中心频率及带宽的解调频带。然后,构造辛相关峭度选取最优解调频带,此过程通过去除噪声及无关分量,提高了传统峭度指标的稳定性。最后,采用仿真与实测信号进行验证,结果证明了所提TSCgram方法的有效性与优越性。（5）针对单一指标选取最优频带的局限性及传统包络谱易受无关分量影响导致诊断失效的问题,提出了一种基于指标增强谱峭度图（Traverse index enhanced-gram,简称TIEgram）的机械故障诊断方法。该方法首先将峭度、相关系数及谱负熵进行加权融合,并将所得新指标作为选取最优解调频带的依据。然后,为了提升包络谱的有效性,提出了基于自适应多尺度加权形态学滤波的增强包络谱,通过去除无关分量,提高了诊断结果的精确度。最后,将所提方法应用到非平稳转速工况下的轴承故障诊断中,并与现有快速谱峭度及Autogram方法进行对比,结果验证了TIEgram在非平稳转速轴承故障诊断中的可行性与优越性。