谐波齿轮减速器是目前常用且关键的传动机械装置之一。由于该减速器中存在诸多复杂的非线性因素,因此制约了谐波齿轮减速器精度的进一步提高。此前有学者对于谐波齿轮传动系统的研究主要集中在设计实验、如何建立精准的数学模型或者对其中的动力学现象的描述。本文剖析了谐波齿轮传动系统中涉及的主要非线性因素,建立了包含时变扭转刚度、尺侧间隙、运动误差等非线性因素的谐波齿轮传动系统动力学模型。利用非线性学科的分岔知识、快慢动力学知识和数值模拟等方法研究了系统中出现的快慢动力学行为及其动力学机理。同时,由于传动系统存在众多非光滑因素,考虑了尺侧间隙非光滑因素,本文建立了非光滑谐波齿轮传动系统的动力学模型,分析非光滑因素下系统的动力学行为。本文具体研究内容如下:（1）在尺侧间隙条件为f（θ）=θ-φ下,分析了不同扭转刚度系数下谐波齿轮传动系统中快慢振荡行为的演化,进一步分析得知引起该快慢振荡是一种未被报道过的新型动力学机理导致的。由于快子系统的平衡曲线在慢变量a=0附近急剧量变,导致系统轨线在静息态与激发态之间快速转迁,从而诱发快慢振荡行为。此外,在尺侧间隙条件为f（θ）=θ+φ下,改变系统的无量纲系数导致系统出现了另外一种快慢振荡行为。诱发该快慢振荡行为机理与前者不同的是,在此情形下系统轨线经由fold分岔点在不同吸引子之间转迁,进而诱发快慢振荡行为。（2）尺侧间隙作为谐波齿轮传动系统中常见的非光滑因素之一,使得系统的输出角位移与输入角位移的关系难以掌控,降低了稳定性与传动精度。研究表明当尺侧间隙的取值在一定的区间内,尺侧间隙的数值改变只会在数量上使系统的动态特性发生改变,未在根本上改变系统运动特性。当采取更小的扭转刚度系数时,系统的动态误差响应的振动频次显著增加,但是对应的振动幅值变化不大,说明了适当的扭转刚度可以明显改善系统的动态响应,加强系统吸收外界干扰能力和抗冲击能力。为了使谐波齿轮减速器满足更多的使用场景,研究了系统在不同外部荷载激励时动力学行为演化过程。在轻载状态下,系统则处于双边冲击状态;在重载状态下,系统切换到单边冲击状态,并且较大的荷载力矩导致系统动态误差轨线出现多处振动响应,可能会导致系统输出端发生转速波动现象。