随着旋转机械转速不断增加、性能不断提高,转子系统的振动特性越来越成为人们研究的焦点。含有齿轮传动的转子系统获得了广泛的应用,并已成为转子系统中一个重要的研究领域。由于齿轮的啮合作用,使得系统各转子之间的弯曲振动和扭转振动相互耦合,因而转子系统的动力学特性不能仅从单转子来考察,为此需要建立系统的弯扭耦合模型,对其动力学特性进行分析。论文首先介绍了现有转子系统动力特性的常用计算方法,传递矩阵—阻抗耦合法,对其进行了深入研究。并通过各向同性和各向异性算例对本方法进行了验证,算例结果表明本方法具有较高的计算精度,在处理各向异性复杂转子系统问题上是有效适用的。随后根据机械阻抗定义,推导出了直齿圆柱齿轮耦合单元的位移阻抗关系,建立了平行轴齿轮转子系统的弯扭耦合模型。应用传递矩阵—阻抗耦合法建立了该模型的弯扭耦合频率方程。分析结果表明,如果不考虑弯扭耦合作用,计算误差会有所变大。建立了考虑轴承油膜力和齿侧间隙的两平行轴齿轮转子系统9自由度和考虑弹性支承的13自由度非线性动力模型,并对模型进行数值分析。结果表明由于齿侧间隙的存在,当转速超过某值时,系统会进入混沌运动状态；齿侧间隙的变化对系统混沌区域有较大影响；轻载情况较重载情况更易于出现脱齿现象,重载时系统运行更加平稳；弹性支承刚度的大小会影响系统混沌区域范围,故在确定工作转速后,适当调整轴承座和基础的刚度,可以使工作转速远离混沌区域,避免对系统的损害。