混沌是确定性的非线性系统中出现的类随机现象。混沌运动是一种复杂的动态行为，具有对初始条件极端敏感、在相空间状态有界等特点。混沌同步是混沌研究的一个重要方面，混沌同步在保密通信、信息科学以及生命科学等领域中有着广泛的应用前景。在国家自然科学基金项目“非奇异终端滑模控制理论及应用的研究”(60474016)的资助下，本文深入研究了连续混沌系统的同步方法以及在保密通信中的应用问题。 首先，本文对国内外有关混沌同步的方法及其在保密通信中的应用研究进行了详细地综述，阐述了混沌以及混沌系统的有关概念、定义和特性，并对混沌同步的方法及应用研究的历史，现状和发展趋势进行了总结与分析。 针对线性反馈同步方法不能保证混沌系统的单调同步化的问题，本文首先对于理想的混沌系统，设计了一种终端滑模同步控制器，使得两个混沌系统能够在有限时间内实现同步。然后，就混沌同步中经常遇到外部干扰等不确定性问题时，本文研究了满足匹配条件的和不满足匹配条件的混沌系统的同步方法，设计了一种终端滑模同步控制器，保证两个混沌系统的误差系统在有限时间内到达滑模，并渐近收敛到原点，实现了混沌系统的同步。所提出的方法，具有鲁棒性，其同步响应速度快，提高了同步的效率和可靠性。 针对具有下三角结构非线性输入的特殊类型的混沌系统，提出利用Backstepping法和终端滑模相结合的方法实现一类存在参数摄动或外部扰动的混沌系统的同步，设计了一种具有特殊的终端滑模超曲面及相应的同步控制策略，使得两个混沌系统输出之间的误差状态在有限时间内依次地收敛到平衡点，实现了混沌系统的有限时间同步。 以上混沌同步方法的讨论中，被动混沌系统是利用主动混沌系统的状态和被动混沌系统的状态作为控制。但是，这类混沌同步方法存在下列问题：需要主动混沌系统的所有状态变量，即不能保证主动混沌系统到被动混沌系统的同步信号为一个单变量信号。因此，文中研究基于观测器方法的混沌系统同步问题。文中在已经解决理想的混沌系统的观测器同步方法的基础上，针对一类具有多个不同非线性输入的不确定主动混沌系统，首先提出了一种鲁棒滑模观测器。该鲁棒滑模观测器的参数选取不需要求解大量方程，只需要配置误差系统特征值，对系统的参数摄动和/或外部干扰具有鲁棒性。然后，把该鲁棒滑模观测器用于多个非线性输入的不确定混沌系统的同步，解决了存在外部干扰和/或参数摄动的混沌系统的同步问题，保证了同步方法的鲁棒性，且通过设计滑模，可以调整混沌系统同步速度，不仅实现低维的混沌系统的同步，而且能实现高维的超混沌系统的同步。 混沌系统同步方法所追求的最理想的方法是：利用传输一个单变量信号实现两个或者两个以上混沌系统的同步。但是，以上混沌同步方法不能保证从主动混沌系统传输到被动混沌系统的同步信号为单变量信号。本文研究两类混沌系统的同步，第一类：对含有两个以上非线性项的混沌系统的同步；第二类：两组或者两组以上的混沌系统的同步。针对上述两类混沌系统的同步问题，本文以信号时分复用的思想为基础，提出一种利用一条传输线传输多维同步信号的方法，解决了利用单通道实现混沌系统的同步问题，既节约了同步所需的设备成本，又增加了混沌信号的保密性。