齿轮系统在各种工业设备中广泛应用，其工作时产生的振动是造成机器设备动态性能恶化的重要因素，齿轮传动系统非线性动力学及其振动噪声控制是一个历久弥新的研究领域，也是目前振动噪声领域的前沿课题和发展方向。　　 本文根据研究和参考国内外的相关资料，阐述了非线性齿轮系统动力学特性研究中的部分理论和实际求解问题。以齿轮与轴承耦合间隙非线性系统为研究对象，重点研究了分析模型的建立，模型的求解，系统的振动特性及参数对振动特性的影响，推导了系统的振动功率流函数，计算了系统的振动功率流值并研究了系统参数对系统振动功率流水平的影响规律。　　 首先，通过对齿轮系统的分析及合理简化，建立了单对齿轮啮合及其与轴承耦合系统的三自由度非线性动力学模型，在模型中综合考虑了齿侧间隙、时变啮合刚度及综合误差等因素。在模型的基础上，推导了系统的无量纲非线性微分方程，并给出了系统运动微分方程的数值求解方法及计算流程。　　 其次，本文采用Runge-Kutta-Felhberg方法，对系统的非线性运动微分方程进行了求解。经过对系统响应的计算，分别得到了周期、拟周期、分岔以及混沌等稳态响应。并结合响应的相平面图、Poincare映射对得到的各类响应进行了详细的分析。研究了激励频率、轴承刚度、齿侧间隙以及综合误差等参数对系统非线性振动特性的影响，绘制了系统随参数变化的响应曲线。　　 本文给出了齿轮与轴承耦合间隙非线性系统的Lyapunov指数的数值求解方法，计算了系统在激励频率、轴承刚度、齿侧间隙和综合误差下的Lyapunov指数，把计算结果与相应参数下系统的相图和Poincare截面作了比较。　　 最后，在上述工作的基础上，应用功率流理论推导了系统的振动功率流函数，计算了特定参数对应的系统振动功率流值，并通过与对应参数的分岔特性进行比较，研究了系统功率流的变化与系统运动状态变化的内在关系，揭示了系统参数对其振动功率流水平的影响规律。