随着移动通信技术的发展,越来越多需要群组通信的应用程序出现在我们的生活中,而这些应用程序的运行环境大多数都是开放且不可信的网络。这些应用程序每一天都在改变着我们的生活,带给我们更加方便快捷的生活体验,但由于运行环境的开放性,这些应用程序也同样给我们的信息安全带来了隐患。因此如何在开放的通信环境中实现安全的群组通信,达到保护用户隐私的目的是一个很重要的问题。在通信方案中加入安全、高效的群密钥协商协议是解决这一问题的重要方法。论文首先基于无证书公钥密码体系提出一个无证书可认证的非对称动态群密钥协商方案。这个方案首先实现了对群成员身份的认证、对公开信息正确性,完整性的验证,保证了群成员间的安全通信。其次说明了群成员的加入和退出过程,在成员加入退出后为了保证安全性,我们对加密密钥和解密密钥都进行了更新。然后我们对此方案进行了完整的安全性分析和效率分析,在随机预言机模型中证明了该方案满足选择明文安全性。通过与其它相似方案的效率对比说明我们的方案不但实现了效率提升也满足了相同功能,同时满足了选择明文安全性。最后介绍了该方案如何应用在云存储中。其次论文在无证书公钥密码体制的基础上,提出了一个适用于动态群的匿名对称群密钥协商方案。该方案的目的是多个群成员利用半可信的高一级节点和密钥生成中心匿名地协商出一个群共享密钥。在该方案中,首先每一个群成员需要在密钥生成中心处进行匿名注册,由密钥生成中心生成匿名私钥,并对成员进行排序。用户只需要用自己的私钥为周围的两个节点计算密钥协商相关信息。其次,用户计算出相关信息并签名后发送给高一级节点。高一级节点使用批量验证的方法来验证群成员的身份以降低计算量。在高一级节点的帮助下,群成员利用自己的私钥通过简单计算生成一个群共享密钥。在方案的最后,我们分析了成员发生变化时的场景,在成员加入退出时,密钥生成中心要对成员进行重新排序,需要更新相关信息的只有周围节点和高一级节点,即只有三个节点参与协商,其他用户不需要重新参与协商。成员们通过简单计算更新群共享密钥即可。通过安全性分析和效率分析,证明了该方案在满足相同安全性和性能的情况下,效率也有所提升。最后详细介绍了该方案如何应用在车联网环境中。