滚动轴承（rolling bearing）作为机械设备中不可缺少的通用零部件,其运行时的健康状态对机械设备乃至整个工业系统具有重大影响。为了保证机械设备的正常运行,减少因机械故障所导致的人身伤害及经济损失,对滚动轴承进行状态监测和故障诊断是十分必要的。本文以滚动轴承为研究对象,以滚动轴承振动信号为切入点,以现代信号处理方法和深度学习理论的融合为基本思想,针对滚动轴承故障诊断领域目前存在的问题展开深入研究。主要研究内容如下:（1）针对振动信号非平稳、非线性特点所导致的故障特征难以提取的问题,对变分模态分解（Variational Mode Decomposition,VMD）进行深入研究,利用仿真信号对VMD在信号分解中抗模态混叠和端点效应的良好特性进行了验证。提出一种VMD和t-SNE（t分布随机邻域嵌入）相结合的故障诊断方法,利用VMD分解原始信号得到若干本征模态分量,计算不同分量的时频特征组成高维特征向量,经t-SNE降维后由K-means分类器得到分类结果。利用滚动轴承振动信号进行实验验证,结果表明该方法能够准确识别轴承故障类别,并且以无监督学习的方式实现了故障诊断的去标签化,一定程度上解决了带标签数据难以获取的问题。（2）针对浅层分类模型故障诊断精度不高的问题,对典型深度学习模型深度置信网络（Deep Belief Network,DBN）进行深入研究。提出一种基于VMD时频特征和DBN的故障诊断方法,利用VMD对原始信号分解得到若干本征模态分量,计算不同分量的时频特征组成高维特征向量,将归一化后的特征向量作为输入进行DBN网络模型的训练,利用训练好的DBN网络模型进行故障的识别。通过实验验证了DBN网络模型在故障诊断问题中的优势,并就超参数对DBN模型性能的影响进行了讨论。（3）针对特征种类选择以及DBN超参数选取一般依赖专家经验的问题,提出一种基于VMD-CS-DBN的故障诊断方法,该方法免去了人工特征提取的步骤,直接将经VMD分解和重构后的信号作为DBN模型的输入,同时利用布谷鸟搜索（Cuckoo Search,CS）算法对DBN关键参数进行全局搜索。将该方法应用到滚动轴承故障诊断中,结果表明,该方法能够自适应地确定模型关键结构参数,并准确地对不同工况下滚动轴承不同位置、不同程度的损伤进行识别。