混沌系统的同步及其在保密通信的应用是非线性科学研究的一个重要课题，也是新世纪充满希望和挑战的高新技术领域。本文基于Lyapunov稳定性理论，通过将理论分析与数值仿真相结合研究了分数阶超混沌Chen系统的视频加密通信、超混沌Chen系统的反馈同步控制、及单个参数调制和多个参数调制的保密通信方案。主要工作如下：首先，利用混沌序列的随机性、有界性、可再生性，提出了一种分数阶超混沌Chen系统的视频加密的方法。为了减弱相邻像素间的相关性，先用一种循环算法对从视频流中分解出来的图像进行像素置乱，然后利用分数阶超混沌Chen系统产生的混沌序列对视频和音频进行加密编码，从而达到双重加密的效果，最后通过密钥对加密视频进行解密。仿真结果表明该方法具有良好的加密效果及较强的安全性。其次,基于Lyapunov稳定性理论，设计反馈控制和自适应控制器,实现了带有单个未知参数的驱动-响应超混沌系统的自适应同步，并识别出未知参数。在混沌系统同步的基础上，建立单个参数调制的保密通信方案，通过连续的信号的仿真结果验证该方法可行性。同时,对通信方案的安全性和抗噪声性进行了相应的分析。最后,选择多个未知参数的超混沌Chen系统作为研究对象,通过设计简单的线性反馈控制，实现多个未知参数的混沌系统自适应同步。同时，建立多个参数调制的数字通信方案，实现对离散信号的调制与识别，并以图像做为实验对象。通过数值仿真验证了理论的正确性、数字通信方案的有效性及安全性。