齿轮箱具有传递力矩、分配动力和改变传动方向的作用,在交通车辆中有着举足轻重的地位。然而,车辆中的齿轮箱长期处于高速、重载的工作环境中,其关键零部件——齿轮和轴承常常发生失效,进而导致齿轮箱发生故障。如果齿轮箱的故障没有被及时检测并预警,那么车辆就会存在巨大的安全隐患,甚至会造成严重的经济损失与人员伤亡,因而对齿轮箱的工作状态进行监测与诊断具有非常重要的现实意义。齿轮箱振动信号中蕴含着丰富的工作状态信息,基于振动信号开展齿轮箱故障诊断是较为广泛、有效的方法之一。稀疏表示方法作为一种振动信号分析方法,在齿轮箱故障特征提取方面有着较好的表现,但是仍存在一些亟待解决的问题。一方面,齿轮箱振动信号的复杂性对稀疏表示方法的故障特征提取高效性和准确性提出了更高的要求。另一方面,稀疏表示方法应当尽量避免过多地依赖先验知识,提高自适应性。因而本文基于稀疏表示方法,研究如何准确、高效、自适应地提取出齿轮箱故障特征信息,实现齿轮箱故障诊断。主要研究如下:（1）分析了齿轮箱中关键零部件的振动机理,对齿轮箱振动信号中的重要分量进行了研究与参数化建模。建立了高度匹配齿轮箱故障特征分量振动特性的参数化小波字典。基于l1-范数搭建了稀疏表示的单分量优化模型,并推演出多分量优化模型。基于稀疏表示单分量优化模型,推导分裂增广拉格朗日收缩算法（Split Augmented Lagrangian Shrinkage Algorithm,SALSA）和前向后向分裂算法（Forward-Backward Splitting,FBS）的迭代流程。（2）基于紧框架解析字典的稀疏表示方法及其齿轮故障诊断中的应用研究。以齿轮箱中关键零部件——齿轮作为研究对象,引入契合齿轮振动特性的调Q小波变换（Tunable Q-factor Wavelet Transform,TQWT）来构建线性变换解析字典,利用 TQWT的紧框架属性规避稀疏表示优化求解过程中的高维矩阵及逆矩阵的运算,降低了运算时间,增强了稀疏表示方法的高效性与实用性。通过分析罚函数的性质,提出使用极小极大凹（Minimax-Concave,MC）函数代替l1-范数作为罚函数构建稀疏表示优化模型。MC罚函数不仅能够很好地促进振动信号的稀疏性,还能解决幅值低估的问题,具有更优异的特征分量幅值保真性。最后,利用凸优化求解算法求解出稀疏表示系数,实现了故障特征分量的精确重构,并准确提取出故障特征频率。（3）基于自适应学习字典的稀疏表示方法及其轴承故障诊断中的应用研究。以齿轮箱中另一关键零部件——轴承作为研究对象,针对解析字典结构固定、自适应性差等问题,研究利用学习字典提高稀疏表示方法的自适应性。特定基函数的解析字典只针对固定的故障类型,与故障类型不匹配的稀疏表示字典的稀疏表示效果较差。自适应学习字典不仅继承了学习字典的高自适应性,能够不需要大量前期工作获取的先验知识,直接通过学习训练的方式得到自适应匹配信号内部特征的稀疏表示字典。而且通过改进K-SVD算法的样本训练矩阵的结构,提高了运算效率。并且利用软阈值算法增强稀疏表示方法的抗噪性。最后凭借广义极小极大凹函数（Generalized Minimax-Concave,GMC）优异的幅值保真特性,通过凸优化求解算法求解出稀疏表示系数,实现了故障特征分量的精确重构,并准确提取出故障特征频率。本文所提的基于字典设计的信号稀疏表示方法能够准确地提取出齿轮箱振动信号中的故障特征分量,精确诊断出齿轮箱的故障类型,为稀疏表示方法在齿轮箱故障诊断领域中的应用奠定了坚实的理论基础,具有较为显著的实用价值与现实意义。