最近二十多年来,认证系统随着计算机网络和通信技术的普遍应用而迅速发展起来,它己经成为密码学研究的一个重要内容。数字签名是认证系统的主要内容,它提供了认证性、完整性和不可否认性的重要技术,解决了如何使用电子签名代替传统手写签名和印章的问题。随着电子商务、电子政务的快速发展,简单代替手写签名的一般数字签名已不能完全满足需要,研究具有特殊性质的数字签名成为认证理论的一个重要研究方向。群签名和门限签名是面向群组的特殊数字签名,它们在现实生活中有着非常广泛的应用前景。群签名允许群组中任意成员代表群组产生签名,它能够为群组成员提供良好的匿名性,同时在必要的时候又可以通过群管理者确定签名者的真实身份。门限签名是一种分布式签名方法,签名的产生必须由群组中达到一定数量的成员的合作才能完成,因此可以有效保护签名密钥以防止签名权力的滥用。主要研究了这两种特殊签名的设计、安全性分析及其应用。具体工作如下:分析了一般数字签名的形式化安全性概念和归约安全性的证明方法,提出一种基于OAEP的概率签名方案,并在随机预言机模型下证明了方案的精确安全性。这是对数字签名的可证明安全性研究的一个补充。另外,还分析了签密的安全模型,利用提出的概率签名方案设计了一种高效的可证明安全的签密方案。讨论了群签名的理论模型、形式化安全性概念和新的设计方法,对最近提出的两种不同的群签名方案分别进行了密码分析,指出它们存在的重大安全漏洞。同时,对其中的一种方案进行了有效的改进。不采用知识签名技术设计了一种适合大群组的高效群签名方案,方案具有固定长度的群公钥和群签名,新成员加入时无需更新群公钥,群签名的打开操作与群规模无关,群签名生成和验证效率均有较大提高。结合基于身份的密码系统的优点,提出一种基于身份的门限签名方案,该方案具有鲁棒性特征,其签名份额的大小不随成员数目增加而增大,并且签名份额的计算过程是非交互的。这在基于RSA的随机化门限签名方案中是不多见的。对移动自组网络的安全组通信和安全成员控制的需求模型进行分析,分别提出了适合于移动自组网络的组密钥管理方案(VGK)和基于身份的成员控制方案(IBMCS)。与其他相关研究工作相比,提出的组密钥管理方案和成员控制方案具有更优越的安全性和效率。另外,在群签名和门限签名的理论和应用等研究问题上还提出了一些新的想法,这些可能是将来值得研究的内容,可供国内外学者参考。