由于混沌具有对初始条件极端敏感、似噪声、连续宽频谱等特性,近年来在保密通信等领域得到了深入的研究和广泛的应用。尽管混沌同步的理论研究目前取到了很大的进步,但目前大多数混沌同步方法实现的混沌同步特性都不够理想,针对这一问题,本文以三阶细胞神经网络混沌系统为研究对象,通过对混沌同步理论、传统混沌同步方法及其应用等相关问题的研究,提出改进的混沌同步方法,来改善混沌同步的性能,并应用于保密通信系统中。首先,对细胞神经网络的混沌动力学特性进行研究。在分析细胞神经网络数学模型的基础上,从奇异吸引子和Lyapunov指数方面来对三阶、四阶细胞神经网络的混沌特性进行研究。选取适当的参数和初始值,建立起细胞神经网络混沌和超混沌动力学模型,为下文的混沌同步算法提供研究对象。然后,从提高混沌同步性能的角度出发,在参数已知的情况下,对驱动-响应、主动-被动、单向耦合、主动控制、状态观测器等传统算法研究进行比较,在此基础上,提出了单向耦合和主动控制相结合的改进算法和改进的非线性状态观测器混沌同步算法。从混沌同步建立时间、同步后的绝对误差和对参数的鲁棒性等方面对基于三阶细胞神经网络混沌系统的改进混沌同步算法和传统混沌同步算法进行仿真比较,看出改进算法的混沌同步特性得到了改善。针对参数未知的情况,本文提出了基于单向耦合和主动控制相结合的自适应同步方法。并与基于单向耦合自适应和基于主动控制自适应等传统自适应混沌同步算法进行仿真比较,结果证明,提出的改进算法比传统算法的混沌同步时间明显缩短,鲁棒性能更好,同步误差得到缩短。最后,采用混沌调制的方法,将本文前面研究的混沌同步系统应用到保密通信中。针对系统参数已知和未知的情况,设计了基于改进算法的细胞神经网络混沌保密通信系统,并从同步建立时间、收发系统同步后最大绝对误差和抗噪性能方面与基于传统同步算法的混沌保密通信系统进行比较,仿真结果验证基于改进算法的系统能更精确地实现信号的传输。