近年来,我国铁路建设随着现代化科学技术的发展,逐步实现信息化、自动化、智能化。铁路系统复杂开放的网络环境,如何保证复杂冗余的数据安全成为研究重点。为实现无线网络通信的基本安全属性,3GPP规范明确规定在开放的无线通信环境下,通信双方需执行完整的身份认证和密钥协商。但是,由于铁路系统具有人流密集、移动设备数量庞大的特点,移动设备同时请求执行认证及密钥协商协议时,将损耗大量的网络资源,同时导致网络拥塞现象。针对这个问题,许多学者提出将具备相同物理属性或运行轨迹的大量移动设备进行分组的思想,同组的移动设备仅需发送一条认证消息,便可供核心网络对所有移动设备进行身份认证。同时,考虑到移动设备对数据的处理能力有限,所以应尽量采用轻量级算法以降低协议计算复杂度。鉴于此,本文主要针对铁路无线通信系统大量移动设备的身份认证及密钥协商协议进行研究,主要内容如下:(1)为了向乘客设备提供安全稳定服务,3GPP委员会提出在LTE-A网络中引入移动中继以提高网络性能。然而,开放的空中接口和复杂的信息交互等问题使得部署在同一列车上的移动中继节点(MRN)易遭受恶意攻击且带宽开销大。针对这个问题,本文提出一种面向LTE-A网络列车MRN的安全高效组认证及密钥协商方案。该方案采用改进的基于中国剩余定理的秘密共享技术,以实现LTE-A网络对MRN的群组认证,采用轻量级哈希算法及异或操作实现核心网络和MRN间的会话密钥协商。安全分析表明本方案能够提供身份隐私保护、密钥前向/后向安全性等安全属性,并能抵抗中间人攻击、重定向攻击等多种恶意攻击。利用BAN逻辑和形式化验证工具AVISPA可验证本方案的正确性与安全性。效率分析表明,与其他相关方案相比,本方案在保持平均计算开销的前提下,通信开销更低。(2)为了实现更大的网络容量和覆盖范围以满足日益增加的服务需求,新一代无线通信系统将集成LTE-A、WLAN或其他无线接入技术。针对相关移动性管理方案缺少全面的安全性考虑以及无法高效实现列车上大量用户设备同时执行切换认证的问题,本章提出一种面向铁路乘客移动设备在LTE-A和WLAN异构网络间实现批量切换的认证方案。该方案采用聚合消息验证码实现目标网络对大量用户设备的同时认证,并结合轻量级对称加密算法和哈希算法协商用户设备与目标网络的会话密钥。BAN逻辑证明、形式化验证工具AVISPA仿真结果以及安全属性分析表明本方案能够抵抗多种恶意攻击,如特权内部攻击、中间人攻击等。最后,从信令成本、计算开销和通信开销三个方面将本方案与相关方案进行了性能对比,结果表明本方案具有明显效率优势。