科技的发展进步和网络应用的普及,在给社会带来方便的同时,随之而来的安全问题也日益为人们所关注。密码技术则是保证信息安全的有效手段。随着混沌学及其应用的发展,混沌密码学近年来也得到了广泛的研究。它是将混沌学的理论应用到信息科学中的一门学科。本论文通过对混沌的特征和混沌密码学的研究,详细的设计和研究了基于混沌的对称密码系统和非对称密码系统,并针对混沌密码系统和密钥协商协议进行了分析和改进,本文的主要工作如下：(1)基于混沌的对称密码系统的设与分析。提出一种基于混沌的密码系统,该密码系统的密钥与其明文相关,提高了其安全性,通过结合线性反馈移位寄存器对混沌映射的扰动,避免了混沌在计算机上实现出现周期性的问题。(2)分析了一个混沌图像加密系统。对一种混沌密码系统进行分析,发现该密码系统存在的漏洞,并且证明此密码系统并不能抵抗选择明文攻击。之后,提出了改进此密码系统安全性的措施。(3)设计基于结合混沌和元胞自动机的密码系统。通过研究几种元胞自动机的特性,结合缠绕logistic混沌系统与二维可逆元胞自动机,设计了一种图像加密系统。通过迭代混沌产生的伪随机数列和演化元胞自动机规则,分别对图像位进行置乱和混淆达到加密的效果。(4)分析和改进了基于混沌的密钥协商协议。先是对一种提出的密钥协商协议进行了分析,发现其有各种安全问题,然后就其改善安全问题,提出了一种新的基于Chebyshev混沌映射的密钥协商协议,通过分析证明新的密钥协商协议提高了安全性。