公开密钥加密体制(Public-key Encryption Scheme)也叫非对称加密体制,它的提出使密码学发生了一场根本性的变革,在此体制中使用两个密钥,即加密密钥和解密密钥,在与多个用户通信时不需要多个密钥,这样不仅便于密钥管理,同时也大大节省了系统资源。混沌(Chaos)系统具有遍历性、连续的功率谱和对初始条件的敏感性等诸多特性,使其在信息安全方面有着广阔的应用前景,密码学中的许多方面都可以和混沌联系起来,但相比混沌密码在私钥系统中的广泛研究,混沌在公钥系统中的研究还很少。本文首先对传统的公钥加密算法进行了研究,主要是背包公钥加密算法及其安全性和现有的基于Chebyshev多项式的公钥算法,并给出了新的基于混沌系统的非超递增背包公钥算法以及高密度背包压缩算法。本文的主要研究内容和所取得的成果有以下几个方面：(1)对一种基于多混沌系统的公钥算法和传统的Chebyshev多项式公钥进行了分析和研究,针对存在问题,对算法进行了改进。(2)研究了非超递增背包序列的构造,提出了一种基于混沌系统的非超递增背包加密算法,并分析了算法的安全性。(3)研究了混沌Hash函数序列及高密度背包的设计,给出一种基于混沌系统的高密度压缩背包算法。分析和实验的结果表明,基于Chebyshev多项式的多混沌公钥算法可以有效地抵御基于2-范数的攻击,提高了算法的安全性能；基于非超递增序列的背包算法则给出一种处理背包问题的新方法,在安全性方面也有了提高；最后给出的高密度压缩背包算法,在提高背包密度的同时也提高了加解密的安全性能,但加解密速度相对较慢,因此加快算法的运算速度将是将来工作的重点。