NTRU公钥密码体制是一种典型的快速公钥系统,其解决了困扰公钥密码体制的速度问题,更因其密钥体积小、产生方法简单等特点,使其可广泛应用于电子商务、通信、嵌入式等领域。与传统公钥算法相比,NTRU公钥算法具有更广泛的应用前景,对它的研究是当前公钥系统研究的一个热点。本文对NTRU公钥密码体制进行了研究,对其数学基础、算法和安全性进行了讨论。第一章对密码学的发展进行了简要的介绍,对公钥系统的现状进行了分析和总结,指出了NTRU算法的不足,描述了进一步研究的意义。第二章对NTRU的数学基础进行了详细的讨论,介绍了格上的困难问题最短向量问题(SVP)和最近向量问题(CVP)等,指出对这些问题的困难性研究仍是不充分的。第三章对原始的NTRU算法和增强型NTRU算法进行了介绍和分析,为后面的研究工作打下了理论基础。本文主要工作在后面三章:1、第四章中深入分析NTRU公钥密码体制中产生解密错误的原因,研究了其产生的机理,针对其特点,分别对原始NTRU算法和增强型NTRU算法提出了降低解密错误发生概率的方法,一定程度上提高了算法的安全性。2、第五章中研究了现有的对NTRU公钥密码体制进行攻击的方法,结合对NTRU解密错误的研究,提出了一种利用NTRU解密错误特性对其进行攻击的方案。3、第六章中对现有NTRU数字签名方案进行了总结,在分析其工作原理的基础上,引入了循环基的概念,提出了一种基于NTRU格和循环基的一种新的数字签名方案。