随着机械系统不断向着复杂化、智能化的方向发展,智能装备业越来越凸显出对系统安全可靠运行的迫切需求。针对机械系统及其关键部件的状态检测和故障诊断,对保障设备健康稳定运行、提升系统运转效率以及避免事故发生具有重要意义。深度学习因其自动化和高效的特征提取能力,在故障诊断中获得了广泛应用。但是,在机械系统中故障样本量相较于系统正常状态样本量较少,导致故障样本的不平衡问题。同时,获得的数据通常为无标签故障数据,对数据的标注往往需要消耗大量的人力与时间成本。在面对数据不平衡以及标签样本缺失问题时,传统智能故障诊断模型性能退化严重,很难实现高精度监测与故障诊断任务。针对这些难点及研究中存在的问题,本文工作主要包含以下内容:针对一维振动信号易受噪声影响以及故障样本不平衡问题,本文结合小波变换和生成对抗网络作为数据预处理方法,设计了一种故障数据扩充技术。通过连续小波变换从一维含噪信号中提取时频域特征并转换为时频图像,避免部分故障特征不明显问题。然后使用生成对抗网络模型模拟并生成相同数据分布的样本,拓展样本量,充分利用时频图像生成更多的图像样本并解决故障样本不平衡问题,为后续故障诊断奠定基础。针对无监督模式下故障诊断困难问题,提出基于自监督对比学习方法Sim CLR构建无标签故障诊断模型,并验证了该故障诊断模型的有效性。通过实验分析了不同数据增强方式、不同自监督特征编码网络模块、不同映射模块对特征提取以及分类结果的影响。结果表明,使用恰当的数据增强技术、使用更深层的特征编码模型以及使用非线性映射方式均能提高诊断准确率。针对部分故障特征难以提取问题,自监督对比学习方法Sim CLR对该类故障识别的有限性,结合数据预处理方法提出面向故障数据的多实例对比学习方法WT-MICLe。通过增加额外的对比学习方式,进一步提高在无监督模式下故障诊断准确性。同时针对半监督问题,通过任务无偏以及任务特定方式利用部分有标记样本数据辅助分类,在多组实验中通过凯斯西储大学和帕德博恩大学轴承数据集验证了方法的正确性与有效性。