如今,全世界范围内围绕互联网关键资源和网络空间国际规则的角逐日益激烈。现代密码学作为网络空间安全的重要理论基础,在这场角逐中起着至关重要的作用。密钥是现代密码学的核心元素,其安全性直接决定着各类密码方案的安全性,与之密切相关的密钥协商协议是一种研究公开网络环境下,通信实体间如何生成安全会话密钥的重要密码原语。通过协议所生成的会话密钥是构成公钥加密体系和对称加密体系中各类密码方案的重要组件,进而可为数据提供机密性、可认证性和隐私保护等安全功能。由此,支持网络空间安全体系的构建,进而保障国家安全、社会经济稳定运行以及人民群众的利益。可见,对密钥协商协议的研究具有一定的现实意义和理论价值。针对密钥协商协议中存在的交互模型单一、交互复杂度较高、安全威胁增多等问题,本文结合组合数学中的区组设计技术对群组密钥协商协议展开了相关研究,研究主要包括基于区组设计的认证密钥协商协议、基于区组设计的非对称密钥协商协议和基于区组设计的可容错密钥协商协议三个方面的关键技术,逐步完善了群组密钥协商协议的基础需求、性能提升和功能优化。本文主要工作如下:（1）为了满足群组密钥协商协议的基础安全需求,并解决协议交互模型单一的问题,本文对组合数学中的区组设计技术展开探索和深入研究,创新了群组密钥协商交互模型。在此基础上,引入前缀谓词概念,并基于约束伪随机函数技术提出了基于区组设计的认证密钥协商协议。协议分析表明所提出的协议具备会话密钥安全、匿名认证等特性;与同类协议相比,所提出的协议在计算开销和交互轮数上表现良好,整体性能优于同类型协议。（2）为了提升非对称群组密钥协商协议的交互效率,并解决非对称群组密钥协商协议内在的共谋攻击问题,本文进一步改进区组设计构造算法,利用区组设计对称平衡的结构特性,设计群组负载均衡交互模型。在此基础上,采用短签名技术,设计基于区组设计的非对称群组密钥协商协议,并基于此设计了群组匿名认证和指定接收者加密机制。协议分析表明所设计的协议具备会话密钥不可伪造性并可抵抗共谋攻击;与同类型协议相比,所提出的协议在计算和存储开销上均有所降低。此外,当群组用户数量为N时,协议交互复杂度由O（N~2）降低到了O(NN1/2)。（3）为了进一步优化群组密钥协商的功能需求,并解决群组密钥协商中可能存在内部攻击者的问题,本文基于差集扩展方法构造区组结构,利用区组设计元组重复的结构特性,设计可容错群组交互模型。在此基础上,基于同态加密和多重签名技术,设计了基于区组设计的可容错密钥协商协议。协议分析表明所设计的协议具备会话密钥安全、可容错、抗密钥控制等特性;与同类型协议相比,所提出协议有效降低了计算开销。此外,当群组用户数量为N,区组设计参数k≈N1/2时,协议交互模型构建效率提升了N倍,存储开销降低了k倍。