现如今高速铁路技术飞快发展,齿轮传动系统是高铁列车传递动力的核心部件,其安全性、稳定性直接决定高铁列车运行。关于单级齿轮系统的非线性动力学研究主要有三种方法,即近似解析法、数值法和实验法,以上的方法存在求解过程比较繁琐,当精度要求较高时求解比较困难,求解单级齿轮传动系统共存吸引子的计算时间长、效率低等缺点。长期以来人们十分关注动力系统周期运动的失稳方式,以控制失稳现象的出现。一般数值方法对单级齿轮传动系统中共存稳态吸引子的研究较多,但对于不稳定吸引子的研究较少,其共存周期解的分岔演化规律没有完全揭示。所以本文主要研究工作包括以下几个方面。首先考虑时变刚度的单自由度齿轮传动系统,建立其动力学微分方程。根据单级齿轮传动系统的特点,在系统运动的不连续界面建立局部映射,推导了系统复合映射的Jacobi矩阵。总结了几类特殊运动类型下系统的复合映射及其对应的Jacobi矩阵。并推导了时变刚度下单自由度齿轮传动系统的延拓打靶法,并利用简单打靶法求解了系统中共存的周期解。然后,运用延拓打靶法数值求解时变刚度下单自由度齿轮传动系统的周期解,并用Floquet乘子判断周期解的稳定性。应用延拓打靶法追踪系统中共存的周期解,分析共存周期解的分岔演化过程。应用简单胞映射法求解共存稳定周期解的吸引域,并结合系统的相图和Poincaré映射图揭示系统随外参数变化时周期解的吸引域演化过程。结果表明:单级齿轮系统中存在大量稳定与不稳定周期解共存的现象,且通过鞍结分岔（SN）、倍化分岔（PD）、鞍结-倍化-鞍结型分岔（SN-PD-SN）和擦边-倍化（GR-PD）分岔进行转迁。鞍结分岔产生的不稳定周期解位于稳定周期解吸引域的边界上。鞍结分岔对系统全局特性影响较大,而周期倍化分岔不会造成吸引子吸引域的拓扑结构发生变化。其次,考虑常数刚度的单自由度齿轮传动系统,推导了系统复合映射的Jacobi矩阵。应用延拓打靶法追踪系统中共存的周期解,分析共存周期解的分岔演化过程。常数刚度下单自由度齿轮传动系统具有多稳态吸引子共存的现象。通过局部放大发现在倍化分岔点附近有鞍结分岔点,存在鞍结型-倍化分岔（SN-PD）、擦边-倍化型分岔（GR-PD）、擦边-鞍结型分岔（GR-SN）等新的动力学现象。经鞍结分岔产生的不稳定周期解在稳定吸引子吸引域的边界上,倍化分岔产生的不稳定周期解位于稳定吸引子的吸引域内。最后,分析刚度对单自由度齿轮传动系统的影响。结果表明刚度对于齿轮传动系统的稳定性影响较大。虽然两种刚度条件下存在的周期运动类型基本一致,但时变刚度下在较低频率时周期运动就已失稳并通过倍化分岔序列产生混沌运动。