随着科学技术和现代工业的快速发展,机械设备也变得复杂化、精密化和紧凑化。一旦机械设备的某个环节出现故障,将会影响设备的正常生产,甚至引起人员伤亡事故。因此,研究有效的机械设备状态监测与故障诊断技术,对及时判断和防止设备故障的发生具有重要的现实意义。齿轮箱是机械系统中重要的零部件,确保其良好的运行状态直接关系到整个系统的正常生产。然而,由于机械设备的复杂性以及工况的恶劣性,采集的振动信号往往是复杂非线性的,采用传统的的信号处理方法很难从这类复杂信号中提取故障特征,进而影响故障模式的判别。因此,有必要研究新的机械故障诊断方法。本文在国家自然科学基金项目（编号:51875182）的资助下,以齿轮箱为研究对象,将图信号处理引入机械故障诊断领域,对基于图信号处理的特征提取和模式识别等方面开展研究,提出了一些基于图信号处理的齿轮箱故障诊断方法。本文的主要研究工作有:（1）为了准确有效地提取滚动轴承振动信号的非平稳、非线性故障特征,将复杂网络与图信号处理技术引入机械故障诊断领域,提出了一种基于可视图图谱幅值熵的滚动轴承故障特征提取方法。该方法先将滚动轴承振动信号转换为可视图,获得可视图信号;再通过图傅里叶变换（Graph Fourier Transform,GFT）将可视图信号从顶点域变换到图谱域,并将计算得到的图谱幅值熵作为故障特征参数;最后通过马氏距离分类器对不同类型故障进行分类。实际滚动轴承振动信号的分析结果表明,基于可视图图谱幅值熵的故障诊断方法不仅可以有效地提取滚动轴承故障特征,对多类型轴承故障进行准确地识别,而且不需要考虑参数选择问题,是一种简单有效的特征提取方法。（2）针对直接对齿轮箱复合故障振动信号进行包络分析难以准确识别故障分量的问题,提出了一种基于自适应阈值的可视图加窗图傅里叶变换（Windowed Graph Fourier Transform,WGFT）的齿轮箱复合故障诊断方法。该方法首先对齿轮与轴承故障的仿真信号进行了WGFT分析,研究了不同信号顶点-图谱系数的阶次分布,发现齿轮故障仿真信号的顶点-图谱系数被投影到低阶次区域,轴承故障仿真信号的顶点-图谱系数被投影到高阶次区域。结合这一特点,分析了重构各故障分量的可行性;然后结合人工鱼群算法与信号峭度变化率对重构故障分量的阶次阈值进行寻优,根据寻优的阶次阈值范围内的顶点-图谱系数对各故障分量进行重构,最后对各故障分量进行包络解调分析。试验结果表明,该方法能有效分离齿轮箱复合故障振动信号分量,进而准确地诊断齿轮箱复合故障。（3）针对有限标签样本下齿轮箱多类型故障的模式识别问题,将半监督分类思想与图卷积网络相结合,提出了一种基于半监督图卷积网络（Semi-Supervised Graph Convolution Networks,SSGCN）的齿轮箱智能故障诊断方法。为了获得满意的诊断效果,该方法首先构造由热核加权的无向k近邻图,并以邻接矩阵形式表示出来,以完全反映各信号之间的局部几何特性;其次,通过网格搜索方法优化确定一些关键的超参数,将频域信号和图邻接矩阵输入搭建的两层SSGCN模型以训练模型的参数;最后对未标记故障样本进行分类。应用实例表明,与基于有监督的深度学习方法相比,本文提出的方法不仅可以从频域信号中自适应地提取可用的故障特征,而且可以有效地识别不同类型的齿轮箱复合故障,是一种有效可行的端到端的半监督方法。本文以图信号处理方法为基础,对机械故障诊断领域的特征提取、故障分量提取及模式识别的新方法开展了深入研究,提出了基于图信号处理的齿轮箱故障诊断方法。算法仿真和试验结果表明,本文提出的方法在齿轮箱故障诊断中有一定的应用前景。