现代工业是国民经济命脉,工业装备在各个行业的有效服役保障了社会的快速发展。机械设备不仅包括飞机、高铁、城轨列车等与人息息相关的交通载具,更有卫星、潜艇、航空母舰等为国防、经济领域保驾护航的大国重器,一旦出现事故,会造成恶劣的影响。旋转机械是重大装备的核心部件,因此为了保障装备的可靠运行,对旋转机械开展故障诊断的健康维护尤为重要。由于人工智能的发展,基于深度学习的旋转机械故障诊断方法得到了广泛的研究。然而旋转机械工况复杂多变,源域（训练信号）和目标域（测试信号）的分布会发生偏移,因此传统深度学习方法中“数据独立同分布”的假设失效,导致了传统诊断方法在变工况下性能的大幅衰退。为此,本文针对旋转机械变工况下的故障诊断性能衰减问题提出了跨域诊断的一系列新方法。首先在深度学习模型的基础上引入对抗学习,利用模型对抗学习变工况故障信号共享的特征分布,从而减小源域和目标域特征的分布差异,提高诊断模型的泛化能力,实现跨域适应诊断。进一步地,考虑到在工业现场目标域信号的获取难度,本文在诊断模型训练阶段目标域信号未知（既无标签,又无数据）的情况下提出了跨域泛化诊断的课题,利用多领域特征学习和标准化策略学习泛化的故障特征。更进一步,考虑到跨域信号的分布差异,本文在数据增强的启发下,提出了跨域增强诊断的新思路,利用跨领域的数据构建特征凸包来增强领域知识,提升模型学习域不变特征的能力。本文的研究重点分为以下三个方面:（1）针对传统深度学习故障诊断方法在变工况下的性能衰减问题,提出基于对抗领域自适应的旋转机械跨域诊断方法,以信号处理、深度学习、对抗学习等理论为支撑,探究跨域故障诊断方法在旋转机械上的适用性。首先对变工况机械信号进行短时傅里叶变换的预处理,构建变工况的数据集。其次,构建从源域到目标域的故障诊断模型,包括三个阶段:源域预训练、对抗特征学习、目标域诊断。通过目标域特征提取器和领域判别器的对抗学习,实现机械故障信号的跨域特征提取,再利用源域分类器对目标域特征进行无监督地跨域诊断。最后通过两个轴承故障诊断实验台对方法进行验证。（2）针对在模型训练时目标域信号未知的跨域泛化问题,提出了基于对抗领域泛化的旋转机械跨域诊断方法,其在跨域自适应诊断的基础上引入领域泛化的思想,探究在变工况下跨域共性知识的学习。首先在多领域自适应的基础之上,首次给出跨域泛化诊断的定义,并给出领域泛化的泛化误差上界。在跨域泛化诊断理论的支撑下,提出基于域不变策略的对抗领域泛化模型。在模型中采用特征提取器、故障分类器、领域分类器三个模块结合梯度反转层实现故障特征和域不变特征学习,利用实例标准化和谱范数标准化策略提升特征学习能力,并通过基于自适应权重的多任务联合优化来共同实现跨域泛化诊断。最后通过轴承实验台在变负载和变转速的条件下对方法进行验证。（3）针对在跨域泛化诊断问题中如何对跨域信号进行增强的问题,提出了跨域增强诊断的理论,并在此之上提出基于对抗领域增强的旋转机械跨域诊断方法。首先在跨域泛化诊断的基础上,结合数据增强的思想探究对跨域信号增强域的构建。采用一种跨域信号和跨域特征的凸组合方法构建增强域,构建的特征凸包可以生成近邻特征以连接不同的领域,然后结合跨域的损失函数在实例层和特征层同时进行跨域增强,从而在贪心的优化算法下优化增强域,使其特征尽可能涵盖未知域的特征,以提升跨域诊断模型的泛化能力。最后通过轴承实验台在变转速和转速动态时变的条件下对方法进行验证。