混沌是非线性动力系统中一种复杂的运动现象,是发生在确定性系统中看似随机的运动,这种现象在自然界中广泛存在.自Lorenz提出第一个混沌模型,混沌受到越来越多的关注,在混沌理论研究以及应用方面不停涌现出新的成果,这些成果在工程技术、信息科学、生物科学等领域已经得到了应用,在社会学中也具有广泛的应用前景.本文提出了一个三维的具有五个参数和三个二次项的自治系统,并对该系统的动力学性质进行了研究.证明了在三个平衡点的条件下该系统与统一Lorenz系统不是光滑等价的,运用带参数的中心流形理论和分岔理论研究了该系统的双曲和非双曲平衡点稳定性以及叉形分岔、Hopf分岔等局部动力学行为.同时,通过Poincare紧致化方法分析该三维混沌系统在无穷远处的动力学性质,并用数值方法研究奇异退化异宿轨等全局动力学行为.本文主要内容如下：第一章为绪论,主要叙述本文的研究背景、意义和主要工作.简述了混沌的研究发展历史,介绍了混沌的的基本概念、局部分岔理论与混沌的判定方法,同时简要介绍了几类经典的三维混沌系统.第二章提出了一类三维混沌系统,通过Lyapunov指数谱和分岔图等工具验证了系统在适当参数下可产生混沌,证明了该系统在三个平衡点的条件下与统一Lorenz系统不是光滑等价的,研究了系统的双曲平衡点的稳定性,获得平衡点稳定性判定条件.第三章研究系统非双曲平衡点的局部动力学性质,利用中心流形、正规型理论和分岔理论等方法分析了系统在平衡点处的叉形分岔和Hopf分岔情况,研究了系统的具有两个零特征值的平衡点的稳定性.第四章主要研究系统的全局动力学性质.利用Poincare紧致化方法,分析了系统在无穷远处的动力学行为.通过数值模拟,在特定的参数下找到了多条奇异退化异宿轨,尤其是该系统在适当的参数下存在两条平衡点直线,当扰动特定参数时,系统可以产生混沌吸引子.