外太空编队飞行是宇航科学的一个重要的发展方向。实现空间编队飞行中重要的一个方向是建立空间编队飞行器的通信新系统，由于超宽带通信所具有的优势很适合空间编队飞行技术，近年来，将超宽带技术应用到空间编队飞行技术得到了共识。作为一个新颖的多用户通信系统，超宽带多用户通信系统的优点是具有较大的高通信容量以及良好的多址复用能力。但是由于硬件条件还达不到实现的要求，所以这方面的研究目前只是处于理论研究阶段。超宽带的宽频带特性决定，它与现行的通信测控系统(主要是统一S波段测控系统)很容易造成相互的干扰。因此本文研究了超宽带系统与其它通信系统的频谱共存、兼容内容中的超宽带系统对其他通信系统的干扰问题，重点研究了超宽带信号的波形设计问题。本课题研究了三种超宽带波形的设计方法并且设计了新型的超宽带通信系统。首先，首先针对现行载荷有限、设备简化条件研究了基于高斯脉冲的超宽带波形设计方法。这种方法很适合星舱内的无线通信体制，同时也是初期空间编队飞行器通信系统实现的必要手段。仿真得到了所需要的波形，同时说明了这种方法的一些短处。其次，研究了基于软频谱适配(SSA)的超宽带波形设计方法。这种方法主要思想是采用自主设计的满足特定功能的UWB波形进行发射，仿真表明，这种方法具有更好的陷波特性。并且测试这种设计的UWB信号对其他普通通信系统的干扰程度，得到了相应的误码率性能曲线。通过这些研究可以更好的解释和解决UWB通信系统与其他系统的兼容性问题。最后，为了解决高速通信和良好的抗多址干扰能力的要求，研究了基于正交小波的超宽带波分多址通信系统。利用正交小波的性质设计了超宽带波形，同一小波族的不同小波来区分不同用户，使之具有非常好的多址能力。仿真与伪随机序列（DS-UWB）多址系统进行了对比，具体给出了正交小波的超宽带波分多址通信系统的优势。