本文主要讨论多播安全的一个核心问题——组密钥管理。多播是Internet上许多应用的基础,已经成为当前研究的一个热点问题,组通信密钥的安全是其中急需解决的问题,最为核心的问题就是多播组的密钥管理。目前的多播密钥管理方案主要包括集中式、分布式和分层分组式,它们各有优缺点,适用于不同的情况。总体来说,集中式组播密钥管理方案中存在一个根或组控制者GC,负责全组的密钥生成、分发和更新,这一方案容易实现、反应速度快,但是这类方案过于依赖GC容易导致单点失效问题;在分布式的组播密钥管理方案中,参与通信的点是对等的,通过某种密钥协商算法生成组密钥,这类方案有很好的容错性,但是由于它缺少集中控制,给管理带来了困难;分层分组式组播密钥管理方案将参与组播的成员划分成数个子组,每个子组存在一个控制节点,这些控制节点组成了组播密钥管理的层次Ⅰ,小组内部的密钥管理属于层次Ⅱ,这两个层次可以独立的选择采用集中式或是分布式的管理方案和相应的体系结构,在每个层次采用何种方案就会继承该方案的优缺点,但也不可避免会有节点失效的问题。本文对几个经典的方案做了详细的讨论和分析,主要包括集中式的GKMP、LKH、OFT,分布式的TGDH、LKH,和分层分组式的Iolus、Intra-Domain GKMP等方案。指出它们的优缺点和使用范围。在充分分析现有方案的前提下,本文提出分层虚拟动态子群的概念,并构建了基于大型动态多播群组的分别基于子组和子组成员两个层次的分层虚拟动态子群的密钥管理方案,用以解决一些大型群组结构的组密钥管理需求、子群重建等问题。对于选择大型群组的不同的多个子组和在不同子组内选取若干成员建立子群这一要求,传统方案需利用现有密钥分配方案重建一个新的群组,而我们的方案是在原有密钥树的基础上进行子群重构,实现不同层次的虚拟,可减少信息传输和密钥存储空间;提供了解决大型群组子群建立效率低下问题的一种途径。