近年来，IP组播技术以其能够大大节省网络带宽和发送者资源而得到广泛应用，在视频传输、股市行情发布、新闻放送、软件更新、多方网络会议、网络游戏等应用领域，组播通信为其提供了非常有效的传输方式。 然而，组播通信却面临着许多安全问题，主要包括数据保密性，完整性，不可否认性等。而且由于组播体系结构的特点，组播通信比单播通信更容易受到攻击，具有更大安全风险，而且容易受到拒绝服务攻击。因此就非常需要设计一个安全的组播系统，解决这些安全问题，才能使组播技术得到更广泛的应用。 对此，目前现有的解决方案包括：集中控制式管理、分布式管理和层次式管理。但这些方案都存在各自的缺陷：集中控制式管理有单点失效、扩展性差等问题；分布式管理有管理复杂、实现困难等问题；现有的层次式管理有子组间通信需多次加解密、系统开销较大等问题。 本文在分析现有的一些协议框架和密钥管理算法的基础上，提出了一个基于混合密钥管理的安全组播系统HKSMS(Secure multicast system based on hybrjd key management)的设计方案，并给出了详细的系统实现。本文主要的研究工作及成果体现在如下几点： 1．HKSMS系统的设计 1)给出了HKSMS三层架构模型的描述，各个组件的功能介绍。 2)提出了一种混合密钥管理方案，在不同的层次上采用不同的密钥管理算法，使得密钥管理安全且高效。 3)给出了组管理和密钥分发过程的详细描述。从组的创建，组的维护，到组的删除，各个过程中消息的交互和消息的内容都进行了详细的描述。 4)对模型中数据通信过程中出现的多次加解密问题，提出了几种适用不同应用环境的改进方案，有效的减少了通信过程中数据处理的运算量。 2．HKSMS系统的具体实现 详细给出了HKSMS系统的模块设计、关键组件(组控制器、子组控制器和组成员)中主要进程的实现流程以及内核模块的实现。