随着北斗卫星导航系统全球化服务的逐步实现,北斗独有的短报文通信功能在各行各业中得到广泛应用,对其通信传输信息的安全性提出了更高的要求。短报文系统在数据通信传输过程中采用明文传输机制,未对传输信息采用安全加密措施。在北斗卫星导航系统各项传输标准及传输格式等基本信息均由官方公开发布的情况下,短报文数据传输过程中存在用户数据泄露、篡改等安全风险。因此为保障短报文系统安全传输,提高用户数据安全性,需对北斗短报文系统传输的报文数据进行安全加密操作。针对上述问题,本文将安全密码体制与北斗短报文传输相结合,分析研究了短报文系统传输特征及报文通信协议格式、含义,提出使用对称加密算法和混沌加密算法两种方法实现短报文传输通信申请协议中的电文内容数据加密;在电文内容基础上,针对短报文传输中常见的用户定位信息设计了电文内容定位信息传输协议,以实现用户定位数据的安全、规范交互。同时对常见的对称加密算法和混沌加密算法进行对比分析,为对电文内容加密奠定基础。基于上述研究,本文设计使用Logistic混沌映射加密算法实现短报文数据加密,但通过算法密钥空间分析得知其密钥空间较小,不能有效抵抗穷举攻击,因此本文提出一种基于耦合混沌系统的改进Logistic算法,通过时空混沌模型中的CML耦合Tent混沌映射生成Logistic混沌映射初值序列,对初值选择进行改进,扩大密钥空间,增强抗穷举攻击能力。同时,通过将密钥与密文联系,多次扩散的方式,改进数据加密过程,增加算法安全性。并对改进算法进行序列随机性、相关性分析,与穷举及差分攻击,验证改进Logistic算法的安全性与在短报文系统中传输的可行性。同时本文使用对称AES加密算法对北斗短报文数据进行加密传输,研究发现其密钥扩展算法不能有效抵抗如Square攻击等选择明文攻击,且密钥扩展结构降低了雪崩性能。因此提出一种基于二维混沌映射TD-ERCS改进的AES加密算法,由二维混沌映射TD-ERCS迭代动态生成改进加密算法的加密密钥,扩大改进算法密钥空间的同时增强算法抗选择明文攻击能力。对改进算法的抗Square攻击和抗穷举攻击能力进行分析,验证了改进算法加密短报文信息的安全性。最后本文将提出的两种加密方法应用于北斗短报文通信系统,搭建了一个北斗短报文安全通信测试平台。平台对北斗短报文通信申请协议中电文内容部分加密后进行通信转发,通过对加入加密算法的报文传输系统的丢包率及传输延时进行统计分析,验证了所提加密算法在北斗短报文通信系统中的可行性。