自从1963年Lorenz提出第一个混沌数理模型以来,混沌受到各个领域的关注并获得快速的发展.混沌是非线性科学中所具有的一种复杂运动,它在自然界中是普遍存在的.近些年来,关于混沌理论及实际应用方面的研究不断有着新的突破,这些结果对于很多领域的发展起着至关重要的作用,如保密通信、生物科学、工程技术等.本文提出了两类新的三维自治混沌系统,深入探讨了这两类系统的复杂动力学性质.运用中心流形理论和规范型理论研究了系统的平衡点数目、稳定性与分岔等局部动力学行为;利用数值模拟方法深入探讨系统的混沌吸引子、周期吸引子的存在性及它们的共存现象,运用Poincare紧致化方法研究了系统在无穷远处的性质等全局动力学行为.本文具体内容如下：第一章为绪论,简述了本文的研究背景及意义、混沌理论的研究现状及趋势.简单的概述了本文中所用到的一些基本知识,并列举介绍了Lorenz系统及Chen系统等经典的三维混沌系统的研究情况.第二章提出了有且仅有唯一稳定奇点的新三维混沌系统.利用中心流形理论和Hopf分岔理论,研究了系统平衡点的稳定性及分岔等局部动力学行为.运用Lypunov指数谱、分岔图及Poincare映射等工具,分析了该系统的全局动力学行为,在适当的参数下,随着初始值的变化,系统会产生混沌吸引子与周期吸引子、周期吸引子与周期吸引子共存的现象.进一步利用Poincare紧致化方法,获得了系统在无穷远处的动力学行为.第三章研究了一类具有任意多个奇点的新三维自治混沌系统.首先分析了该系统平衡点的个数及相应的稳定性.利用数值模拟方法详细地分析了在适当参数下,系统无平衡点和具有有限个平衡点的动力学行为.在无平衡点的条件下,通过不同的参数的选取,发现该系统能够产生周期轨和混沌.在有限个平衡点的条件下,分别获得了具有1个、2个、3个、5个及187个平衡点情形下的混沌,并研究了相应情形下系统平衡点的稳定性.第四章分析了两类具有无穷多个孤立奇点的混沌系统.利用中心流形理论研究了系统非双曲平衡点的稳定性,并利用Lypunov指数谱、Poincare映射及分岔图等分析了系统的全局动力学性质.在适当的参数下,系统会出现混沌、1周期及2周期等动力学现象.特别地,发现系统出现倍周期分岔通向混沌的现象.