混沌现象是非线性科学中的一个研究热点。近年来，对混沌的研究越来越深入，混沌系统在保密通信，信号处理，社会学，化学，生物学等领域中应用广泛。许多混沌系统都展现出具有分数阶特性的动力学行为。科研人员们发现，分数阶混沌系统有着比整数阶混沌系统更加复杂的动力学特性，更加符合自然界工程应用的实际情况。本文对分数阶混沌系统动力学行为进行了研究；在分数阶混沌系统中实现小波相同步；在分数阶多涡卷混沌与分数阶多翼超混沌系统中实现投影同步；对小世界复杂网络中的分数阶混沌相同步行为进行研究；对可变分数阶混沌系统动力学行为展开研究。本文的工作和所得结论主要包括以下几点：1.多涡卷混沌系统具有复杂的几何结构，丰富的动力学行为。本文研究了一个新颖的分数阶多涡卷混沌系统的动力学行为。发现该分数阶混沌系统在特定的参数条件下可以产生与整数阶多涡卷混沌系统类似的动力学行为。本文的研究表明，系统参数可以作为一种有效的系统控制器，控制系统出现涡卷数目不等的混沌吸引子，周期轨，不动点等动力学行为。系统分数阶数也可作为一种有效的控制变量，发现分数阶数与子涡卷混沌吸引子数目具有相关性。当系统阶数低于3时，该分数阶系统可以产生多涡卷混沌吸引子，当系统的分数阶数降低时，多涡卷混沌吸引子的涡卷数目会逐渐减少，直至不再产生混沌行为，并且该系统产生混沌吸引子的最低阶数为2.1。2.多翼混沌系统同样具有复杂的几何结构，而超混沌系统比普通混沌系统的动力学行为更加复杂。本文将两者结合起来，对一少见的四维的分数阶四翼超混沌系统进行研究。发现当此系统分数阶数低于4，仍然可以产生与整数阶系统类似的四翼超混沌吸引子。系统分数阶数同样可作为一种有效的控制变量，降低分数阶数可导致超混沌现象消失，只产生普通的混沌吸引子，多翼数目也会减少。此分数阶系统产生超混沌吸引子的最低阶数为3.6，产生混沌吸引子的最低阶数为2.4。3.同步问题是混沌研究领域的一个重要研究内容，本文将小波变换和相同步结合起来，研究了分数阶混沌系统的小波相同步问题。构建了一个由两个R ssler混沌吸引子耦合的分数阶混沌系统，分别研究了小波函数的时间尺度，中心频率以及耦合分数阶混沌系统的耦合参数对小波相同步的影响。研究表明，只有在小波函数中心频率和系统耦合参数超过一定的阈值，并且小波函数时间尺度在一定范围之内，该分数阶混沌系统才产生小波相同步的动力学行为。投影同步也是近年提出的一种有效的研究系统同步的方法。在本文的工作中，对投影同步做了简要介绍，将其引入分数阶混沌系统中，分别为一个分数阶多涡卷混沌系统与分数阶多翼超混沌系统设计了相应的响应系统，使得输出同步误差满足分数阶混沌系统的稳定性条件，在该分数阶混沌与超混沌系统中实现了投影同步。4.本文的工作中，基于对复杂网络研究，对小世界网络中的分数阶混沌相同步行为进行研究，提出了一个由分数阶R ssler混沌振子构成的小世界网络模型。分别研究了分数阶R ssler混沌振子之间的耦合强度以及小世界网络模型的结构对该系统相同步行为的影响。5.过去的分数阶动力学系统大多是将分数阶数看作常数，但是在实际中，许多物理现象，工程应用的动力学行为都表现出分数阶数随着时间或者空间变化的情况。在本文中，研究可了变分数阶混沌系统的动力学行为。采用服从不同分布函数的信号做为可变阶数，数值仿真方法则采用基于模糊理论的Crone近似算法，对可变分数阶R ssler混沌系统与可变分数阶多涡卷混沌系统的动力学行为进行研究。发现系统参数同样可作为一个有效的控制器，可变分数阶的分布函数对系统动力学行为有重要的影响。