信息技术的发展和网络应用的普及,给人类社会各个方面都带来了极大的便利并产生了巨大的经济效益;但同时也引发了一系列的安全问题,而密码技术是保证信息安全的关键。公开密钥算法(Public-key Algorithm)的产生开创了密码学的新纪元,它将加密密钥和解密密钥分离,减少了多用户通信所需的密钥量,节省了系统资源,便于密钥管理。混沌系统因其自身特性,在信息安全方面有着广泛的应用前景。而混沌的许多基本特性,如遍历性、混合性、确定性和对初始条件的敏感性等等,都可以和密码学中的混乱与扩散联系起来。但相比起混沌密码在私钥系统中的广泛研究,混沌在公钥系统中的研究还很少。本文通过学习传统公钥算法的相关知识,主要是RSA算法及其安全性,研究了现有的部分基于Chebyshev多项式的公钥算法和基于环面自同构的公钥算法,并设计了新的基于环面自同构的公钥算法。本文的主要研究内容和所取得的创新成果如下:(1)研究了文献[25]提出的基于Chebyshev多项式以及Jacobian Elliptic Chebyshev Rational Maps的公钥算法,并且研究了文献[29]对这两种算法安全性的分析。(2)研究了环面自同构及其周期性,并结合文献[26]提出的基于环面自同构的公钥算法,并且设计了新的基于环面自同构的公钥算法,分析了此类算法的安全性。(3)用大整数运算库实现两种基于环面自同构的算法,并将他们与传统的RSA算法作比较。分析和实验的结果表明,两种基于环面自同构的算法都具有与RSA类似的安全性,即基于大数因式分解的难度,并且能够抵抗针对RSA的选择密文攻击。而两种基于环面自同构的算法性能基本相当,但都比RSA算法慢。因此,加快算法的运算速度将是将来工作的重点。