空间通信多用于关系国计民生的军事、政治、商业等领域,近年来发展迅速。现代航天技术对空间通信系统的依赖性逐渐增大,对空间通信系统的安全性要求也越来越高。空间通信的安全主要体现在信息的机密性、完整性和不可否认性上;为保障这些安全属性,随着近代密码学的发展,密码技术也被广泛应用到了空间通信系统中。本文首先对认证加密算法进行了研究,然后对CCSDS(空间数据系统咨询委员会)协议体系结构中的数据链路层AOS协议、TC协议,以及网络层的SCPS-SP协议的认证加密方案进行深入研究。认证加密算法是保证数据安全通信的基础,本文提出了一个认证加密协议过程,注册用户对于CA是匿名的,不仅能不使用哈希和冗余函数对通信的消息进行加密,且能够对发送方的身份和数据的完整性进行认证。AOS建议主要用于跟踪与数据中继卫星系统,对于AOS协议,本文总结了其保护层次的选择、加密业务、认证业务的实现以及密钥的管理。分包遥控是由CCSDS建议书所规定的空间通信系统数据传输体制,本文分析了CCSDS遥控数据认证安全的状况,总结了对遥控协议数据进行认证性保护的技术方法。SCPS-SP是CCSDS标准中唯一涉及空间通信安全保障的网络层安全协议。针对原协议在安全级别自适应、抗重放攻击和流量分析的网络攻击等方面对数据保护的不足,本文提出了改进的具有多级别安全自适应的SCPS-SP协议,并将GCM认证加密算法应用到了改进的协议中,以进一步提升SP协议的安全性能。仿真实验结果表明,改进后的协议能够满足空间通信系统对数据保护的要求,在安全性能上有明显的提升。