混沌现象普遍存在于纷繁复杂的自然界和人类社会活动中。近50年来,人们在理论和实验中对混沌现象做了广泛和深入地研究,对混沌运动的规律和在各个领域的表现逐渐有了丰富的认识。混沌系统的输出信号具有连续的宽带频谱和似随机的特点,且由于混沌系统具有对初值的敏感性,使得混沌系统能提供有效的误差扩散,这些特点使混沌系统在保密通信中成为非常有希望的竞争者。但是毕竟混沌系统是由非线性动力学方程描述的,在保密通信系统中,即使动力学系统未知,也可能通过非线性动力学预测和重构等方法破译低维混沌保密通信系统。如何研制出高保密性,高加密速度,高抗干扰能力的混沌保密通信系统,已成为信息科学界关注的焦点之一。在这篇硕士论文里,将现代密码学的理论和方法用于混沌保密通信系统,试图在混沌加密算法上增加其复杂性和选择适当的混沌模型来解决这些问题。第一章是综述部分。简要介绍了基本的混沌现象、简单的密码学知识、混沌密码学研究概况,以及保密系统的一些破译技术等内容。第二章研究了基于多涡卷混沌系统的数字保密通信方案。考虑到近些年越来越多的多涡卷混沌系统被提出,我们提出利用多涡卷混沌系统的特点来构造流密码,并采用扩展密钥技术提高其保密性能,结果表明:该保密通信系统具有很高的抗差函数攻击能力;在同步信号被干扰时,保密通信系统具有一定的抗误码率。第三章针对目前采用元胞自动机进行保密通信存在的问题:一次性处理信息量过小,误差扩散速度过慢,误差扩散具有单向性,密钥空间较小等,我们在这一章里提出一种新的即时同步流密码数字保密通信方案,在该方案中利用改进元胞自动机进行加密,并采用扩展密钥技术和置乱技术。数值模拟结果表明:该方案能产生随机性很好的流密码,并且具有较高的加解密速度和非常高的抗破译能力。第四章继续研究基于元胞自动机进行加密的设计,提出采用改进耦合映射产生的时空混沌来产生扩展密钥和进行误差扩散,并利用改进元胞自动机进行加密。数值模拟结果表明:该系统能产生随机性很好的流密码,并且具有较高的加解密速度和抗破译能力。