在故障诊断领域,目前深度学习方法的研究对象均集中于单一故障,而复合故障却鲜有人涉足。齿轮箱复合故障振动信号存在耦合、强弱信号相互淹没、频域信号无法有效提供特征等特点,所以难以准确诊断。面对复杂的复合故障,传统的Softmax分类器+交叉熵函数模型没有有效利用同类样本和异类样本间的关联性信息,已不能精确高效的完成故障诊断任务。本文提出了一种二维卷积神经网络的深度度量学习模型(Deep Measurement Learning Convolutional Neural Network,DML-CNN),其优势在于该模型通过卷积神经网络提取故障信号时频图中的特征,利用Triplet loss作为损失函数在分类过程中会进一步度量样本特征间的距离,从而学习特征间的嵌入关系,使得类内样本对应的特征距离更近,类间样本对应的特征距离更远。为了验证在面对复合故障时DML-CNN模型相比于传统Softmax分类器+交叉熵函数模型的优越性,本文对两者进行了大量对比实验。在按百分比切分的数据集中,DMLCNN模型对复合故障的识别准确率达到了96.82%,传统模型达到了94.26%。为了更契合实际工业生产中不同工况(转速、负载)会影响故障信号的现象,本文分别制作了按转速和负载切分的数据集,以此来模拟工况信息缺失的情形。在按负载切分的数据集中,DML-CNN模型准确率仍有95.57%,而传统模型为91.02%;而在按转速切分的数据集中,传统模型出现了严重的过拟合现象,仅有67.14%,表明模型对转速的适应力差,而DML-CNN仍有90.09%的准确率。为了直观展示模型的特征提取能力和对特征间距离的度量,本文采用深度学习可视化技术,对深度度量学习模型的卷积核和分类结果进行了展示。由于缺失数据训练实验中DML-CNN模型准确率出现不同程度下降,传统模型泛化能力差、易出现过拟合的情况;再联系到深度学习是建立在大数据的基础上,模型能否有效学习到数据中的特征很大程度取决于数据的质量跟数量。因此增强数据的多样性和数量就显得尤为重要,针对实际工业生产中特定工况情况下样本量少、难以采集的特点,本文使用深度卷积生成对抗网络(Deep Convolutional Generative Adversarial Neural Network,DCGAN)的对抗学习机制来扩充少样本的数据量,并解决因数据量不够或样本分布不均衡造成的模型泛化能力差,识别准确率低的问题。