动力学与稳定性的分析对于保障车辆动力传动系统安全可靠运行有着关键性的作用。本文在总结车辆动力传动系统动力学行为相关研究的基础上,围绕动力学行为和稳定性两大主题,采用非线性相关理论探究了混合动力传动系统的复杂动力学行为及其稳定性。在车用永磁同步电机模型的基础上,研究了永磁同步电机的非线性动力学行为及其稳定性。在考虑半轴非线性的基础上,研究了线性项及非线性项对传动系统的动力学特性及稳定性的影响。采用多参数统一方法,将永磁同步电机数学模型中多个参数变化的特性综合到两个参数的变化上,给出了平衡点的稳定性判别条件,推导了平衡点产生Hopf分岔及叉形分岔的条件。分析了永磁同步电机的平衡点随这两个参数变化的规律,得到了平衡点的叉形分岔点以及亚临界Hopf分岔点。得到了永磁同步电机中的不同动力学现象,解释了不同动力学现象产生的机理。在经典传动系统Drive-shaft模型的基础上理论分析了非线性项的影响。建立了包含非线性刚度以及非线性阻尼的非线性Drive-shaft模型,进而转换为当量化扭振模型,推导了扭振系统发生fold分岔以及Hopf分岔的条件,研究了非线性刚度及非线性阻尼取值对扭振稳定性的影响。分析表明非线性刚度的存在会导致共振曲线发生fold分岔进而导致共振曲线失稳,非线性阻尼的存在会导致共振曲线发生Hopf分岔进而导致共振曲线失稳。分析得到了保证共振曲线稳定的非线性刚度及非线性阻尼的取值条件。推导了冲击作用下非线性Drive-shaft模型的响应方程。进而定性分析了非线性Drive-shaft模型冲击响应的稳定性。研究发现与仅有线性阻尼情况相比,负的非线性阻尼不利于传动系统冲击响应的衰减,正的非线性阻尼有利于传动系统冲击响应的衰减;与仅有线性刚度相比,负的非线性刚度有利于传动系统冲击响应的衰减,正的非线性刚度不利于传动系统冲击响应的衰减。在非线性Drive-shaft模型的基础上研究了一类具有非线性刚度的相对转动系统的动力学行为。应用Routh-Hurwitz稳定性准则判断了相对转动系统平衡点的稳定性。应用分岔理论研究了平衡点失稳时的分岔机理,推导了平衡点产生fold分岔的条件,得到了平衡点在双参数平面上的分岔集及单参数分岔曲线,研究了平衡点在不同参数区域内的数量以及稳定性问题。应用Poincaré截面分析了相对转动系统随周期外激励角频率变化的全局动力学行为,获得了系统的周期一轨道、周期三轨道以及混沌等动力学行为。在并联混合动力传动系统模型的基础上,通过拉格朗日方法建立了对应的当量化模型,推导了并联模式下传动系统平衡点的稳定性,并采用数值分析验证。分析了发动机激励下传动系统的共振行为以及两种半轴对传动系统共振行为的影响,表明降低半轴的刚度有利于降低共振峰的峰值。研究了两种半轴对传动系统冲击行为的影响,表明降低半轴刚度有利于传动系统的冲击响应的衰减。