本文应用分支理论，二阶平均方法，Melnikov方法和混沌理论，研究带五次回复力、一个外力和一个激励项的Duffing-Van der Pol系统的复杂动态． 应用Melnikov方法给出了在周期扰动下系统产生生混沌的准则，应用二阶平均方法和Melnikov方法给出了在ω=nω1+∈v，n=1，2，4，6的拟周期扰动下平均系统产生混沌的准则，数值模拟验证了理论分析的正确性，而用平均方法不能给出在ω=nω1+∈v，n=3，5，7-15的拟周期扰动下产生混沌的准则，但数值模拟显示了原系统出现混沌．同时，运用数值模拟，包括同宿和异宿分支曲面、分支图、最大Lyapunov指数图、相图、Poincarè映射图等来验证这些理论结果，并发现了许多新的动态：从周期-1，周期-2轨道的周期倍分支通向混沌，交替出现的周期倍分支和逆周期倍分支通向混沌，带有周期窗口和不变环的混沌区域，带不变环的大片区域，小尺度(“small degree”：L>0，～0)的混沌区域，混沌的突然出现和消失，内部危机多次突然发生等复杂动态． 本文研究的这类Duffing-Van der Pol系统，所得到的动态行为将丰富非线性动力系统的内容，对其他学科，例如光学，物理学的研究也有一定的应用价值． 全文共分三章． 第一章是关于二阶平均方法、Melnikov方法与混沌理论的预备知识，简单的介绍连续动力系统的二阶平均理论和Melnikov方法． 第二章简单介绍了Duffing系统，Van der Pol系统以及Duffing-Vander Pol系统的一些历史背景知识． 第三章应用二阶平均方法和Melnikov方法研究了具一个外力和一个激励项的Duffing-Van der Pol系统，给出了周期扰动下系统产生混沌的准则，在ω=nω1+∈v，n=1，2，4，6的拟周期扰动下平均系统产生混沌的准则，而在ω=nω1+∈v，n=3，5，7-15拟周期扰动下没有给出平均系统产生混沌的条件，但是数值模拟显示原系统出现混沌．运用数值模拟，验证理论分析结果，并且找到新的复杂动态．