转子系统是旋转机械的核心部件,对其进行状态监测和故障诊断具有重要意义。转子系统故障状态下的振动信号往往呈现出很强的非线性,在频域上表现为不同频率之间相互耦合,产生和频、差频等组合频率。传统功率谱分析只关注信号中有哪些频率成分以及它们的幅值大小,而忽略了信号的相位信息。双谱包含信号的相位信息并且对非线性敏感,可以将早期故障的微弱非线性放大,检测出频谱中不同频率之间的非线性相位耦合关系。论文围绕转子系统振动信号中的非线性相位耦合,开展了如下工作:（1）了解了转子系统故障信号中的非线性相位耦合现象,研究了双谱、双相干谱的基本理论和计算方法。（2）建立了滚动轴承外圈故障的动力学模型,采用四阶龙格库塔法对方程求解,得到了轴承正常状态和故障状态下的仿真信号。结合轴承故障的实测信号,利用双谱提取了轴承早期故障信号中的非线性相位耦合特征;建立了八自由度四支点的双转子系统模型,研究了中介轴承径向间隙对双转子系统非线性振动响应特性的影响,分析了不同径向间隙下信号的双谱特征。（3）基于非线性相位耦合特征提取开发了转子系统振动信号的分析软件,实现了信号的双谱分析、双相干谱分析,双谱熵特征值计算,故障模式识别等功能。（4）对实验室的CUT-2转子实验台植入了不平衡、不对中、动静件碰摩和支承松动的故障,采集了实验台在不同状态下的转速信号和振动信号。分别计算了每组样本的双谱在不同频段下的信息熵作为特征参量,采用模糊C均值聚类和支持向量机方法进行故障模式识别,取得了较好的识别结果,验证了方法的可靠性。