随着现代工业技术的日益进步,工业机械设备也不断朝着大型自动化、高速智能化以及连续精密化的方向发展,旋转机械作为机械行业中应用最为广泛的设备,在现代工业中发挥着重要作用。由于旋转机械设备长期工作在复杂、恶劣的环境中,导致其故障频发,极易引发重大财产损失和人员伤亡。因此,加强对旋转机械设备关键部件的故障诊断技术研究具有重要的现实意义。本文以旋转机械设备中的滚动轴承和齿轮为研究对象,基于优化算法、深度神经网络以及特征自适应提取等智能方法,对旋转机械设备的故障诊断技术展开研究。论文主要创新性研究成果如下:（1）针对自编码器（auto encoder,AE）网络因其浅层结构,难以提取复杂故障数据本质特征的问题,将堆叠降噪自编码器（stacked denoising auto encoders,SDAE）网络引入旋转机械设备故障诊断。首先,在AE的基础上,对输入数据加入噪声（输入层节点按比例随机置零）,构建更具鲁棒性的降噪自编码器（denoising auto encoder,DAE）网络。接下来,为改善DAE浅层网络的不足,将多个DAE进行堆叠形成一个新的深度神经网络SDAE,据此提取数据深层次特征。最后,通过故障诊断准确率和抗噪性能分析,验证了SDAE网络对于旋转机械设备故障诊断的有效性。（2）针对SDAE深度神经网络用于旋转机械设备故障诊断时,各隐含层神经元数、稀疏系数以及输入数据置零比例等超参数会直接影响网络诊断性能的问题,提出一种优化改进SDAE网络的旋转机械设备故障智能诊断方法。引入学生心理优化（student psychology based optimization,SPBO）算法对DAE网络的超参数进行自适应选取来实现SDAE网络的最优参数配置,据此提取具有更强表征力的故障状态特征表示,输入到soft-max分类器实现旋转机械设备故障状态的精确识别。通过与多种方法对比,验证了SPBO算法优化后的SDAE网络在特征提取和故障诊断方面的优越性能。（3）针对soft-max分类器存在冗余参数且模型易被过度参数化的问题,将核极限学习机（kernel extreme learning machine,KELM）引入故障诊断模型中。首先,利用SPBO-SDAE网络从高维的原始数据中提取具有更强表征力的故障状态特征表示,然后将SPBO-SDAE网络的特征编码层作为KELM的输入层,并采用SPBO算法对KELM的惩罚系数与核函数的宽度参数进行寻优选择,改善相关参数导致KELM网络不稳定的问题,将具有最优参数的KELM作为故障分类模型,构建SPBO-SDAE-KELM智能故障诊断模型,进一步提高网络的故障诊断性能。用三个著名滚动轴承数据集和一个齿轮数据集对所提网络的故障诊断性能进行验证,通过使用四种评估指标（准确率,召回率,方差,相对均方误差）进行评估,并将SDAE、SPBO-SDAE、SPBO-SDAE-KELM与多种方法进行横向和纵向对比,充分证明本文所提故障诊断方法的有效性、优越性和实用性。