公钥密码体制在安全通信中的最大优势就在于去掉了对双方分享秘密信息的要求,但公钥密码体制大多建立在大的代数结构中,这就意味着需要昂贵的代数计算。因此,在长期的密码学应用过程中,混合密码的思想被提出,即用公钥密码加密一个用于对称加密的短期密码,再由这个短期密码在对称加密体制下加密实际需要安全传输的数据。最初混合密码体制的使用仅限于从执行效率方面进行考虑,直到2000年Cramer和Shoup提出了KEM-DEM结构的混合加密体制,使得混合密码体制成为一种解决IND-CCA安全而且实际的公钥密码体制。2005年Dent又将签密思想引入混合密码体制中,提出了混合签密的概念。由于混合密码体制能实际有效的兼顾密码体制应用中的安全性和效率,因此成为公钥密码研究的一个热点。且几个未来加密标准计划中,最有希望的公钥加密候选方案,比如NESSIE和ISO,都具有混合加密的形式。针对混合密码体制中密钥封装的形式化定义和方案设计等关键问题,本文对现有混合密码体制进行了分析,抽象出混合加密密钥封装与混合签密密钥封装的一般模型和安全定义。结合密码学其他相关研究内容,对特殊形式下密钥封装机制的设计进行了探索性研究。本文的主要研究工作如下:1.研究现有混合加密和混合签密方案,在此基础上总结了混合加密密钥封装和混合签密密钥封装的一般结构模型和形式化安全定义。提出一个新的内部攻击者安全模式下的签密密钥封装形式化方案和安全定义,在新方案中引入标签,保证签密密钥封装的不可伪造性安全性。2.从公钥管理角度研究基于特殊密钥管理方式下的混合加密体制。提出了基于身份的混合签密密钥封装一般模型及其形式化安全定义,并基于椭圆曲线双线性映射上的困难问题给出一个基于身份的签密密钥封装实例方案。在随机预言机模型下对该方案的保密性安全和不可伪造性安全进行了证明。该方案在密钥封装阶段不需要进行对运算,而只需要进行指数运算,同时还避免了映射到椭圆曲线群点的Hash函数计算,和现有同类方案相比,新方案在效率上有很大提高。本文提出了一个基于椭圆曲线离散对数的无证书混合加密方案,并对提出方案的公钥安全性和消息保密性进行了分析。该方案利用椭圆曲线离散对数问题来构建,从而避免了传统无证书混合加密方案依赖的双线性对和椭圆曲线求幂运算。3.结合多用户环境下基于角色的密码学思想,研究了支持密码工作流模式的混合签密密钥封装机制。在支持密码工作流这一模式下,解密成为一种授权行为,只有接收用户在拥有适当的授权证书集的条件下才能对密文进行解密。本文提出了支持密码工作流模式的签密密钥封装一般模型及其形式化安全定义。结合秘密共享方案、基于身份加密方案和签密方案,给出了支持密码工作流的签密密钥封装机制结构方案。在标准模型下利用序列游戏证明方法对该结构方案的接收人安全和外部安全特性进行了详细证明。4.根据混合密码体制在实践中的应用需求对多重签密体制进行了研究。本文首先分析了现有多重签密方案存在的不足,结合陷门置换混合签密体制提出了一个新的多重签密方案,并对该方案的安全性和执行效率进行了分析。本文还对应用于陷门置换混合签密体制以及众多密码方案中的承诺方案进行了研究,提出一个基于椭圆曲线离散对数困难问题的承诺方案,该承诺方案参与方不需要进行消息交互,构造简洁。承诺方案具有消息隐藏性和消息绑定性。