卫星通信由于具有覆盖面积广泛、限制小、易于实现多址传输、能迅速建立通信链路等诸多优势,成为各国军事通信系统中的重要组成部分。传统的卫星隐蔽通信一般采取扩频的方式隐藏信号,使用扩频码对信号进行频谱扩展,然而在寻求性能优、数量多的扩频码方向仍存在很大问题,混沌理论为扩频码的研究领域点明新方向,成就现在的混沌扩频通信。非平稳通信是通信领域的另一个新思路,从概率学和统计学的角度看,不管是传统的扩频通信还是融入混沌理论的混沌扩频通信,通信过程中的信号仍然是一种平稳信号,通过长时间的统计观测,可解析通信信号参数。非平稳通信以此为切入点,消除通信信号的平稳性,提高通信过程的隐蔽性。本文在对混沌扩频技术和非平稳技术进行研究的基础上,首先将混沌扩频技术与非平稳技术相结合,进行通信系统的设计与实现;其次,以物理层加密为出发点,对现有星座图加密算法进行分析与仿真,提出星座扰乱算法,并对该算法进行相应的仿真实验。主要工作包括如下几个方面:1、对混沌扩频通信和非平稳信号的构建分别进行介绍,找出二者结合的难点所在并给出解决方法,对混沌序列进行特性分析以寻求性能优越的初始值,设计以混沌扩频技术和非平稳技术结合为基础的卫星隐蔽通信系统方案,该方案以仿真验证为主,按物理位置分为发射端和接收端,发射端包括信源、扩频、非平稳化等模块;接收端包括解扩、解非平稳化等模块,在搭载Xilinx Spartan6系列芯片的FPGA开发板上进行仿真验证,结果表明该方法能够实现抗干扰性与隐蔽性的极大提升;2、对现有基于星座图的加密算法进行介绍,分析其设计的出发点与思路,重点研究此种星座图加密算法的实现过程及其优缺点;提出一种基于星座图的扰乱算法,该算法使得星座点不具备原本的含义,并对该算法进行分析与验证,结果表明该算法能够有效提高通信系统的保密性能。