空间编队飞行（Space Formation Flying）是未来太空探索各项任务的主要实现方式，而其中各编队飞行器之间的通信问题直接关系到整个系统的性能。本文针对空间编队飞行器系统的特点，利用超宽带（Ultra-wideband, UWB）技术数据传输速率高、硬件复杂度低、隐蔽性好等特点，构造了基于DS-UWB技术的空间编队飞行器通信系统，并重点研究了其涉及的两项关键技术——多用户鉴别（Multiuser Identification, MUI）技术和多用户检测（Multiuser Detection,MUD）技术。具体的，本文主要研究内容包括：首先，针对空间编队飞行器系统的特点和一些限制条件，引入UWB技术，并采用直接序列（Direct Sequence, DS）的多址方式，构建基于DS-UWB的空间编队飞行器通信系统。详细分析了空间编队飞行器DS-UWB系统的信号产生、传播和接收问题，其中重点从信道容量和链路方程角度研究了UWB技术实现远距离通信的可行性。通过实验仿真，我们知道不能将系统中的多址干扰当作高斯白噪声来处理，并且传统的相关接收机不具有抗多址干扰和远近效应的能力。因此，我们需要研究多用户鉴别技术和多用户检测技术。其次，针对空间编队飞行器DS-UWB系统的特点，我们研究了多用户鉴别技术。在将激活用户数估计问题转换为一个最大后验概率准则求解问题的基础上，通过引入人工鱼群算法（Artificial Fish Swarm Algorithm, AFSA），我们提出了一种基于种群递减人工鱼群算法的激活用户数估计方法。实验结果表明，该方法能够快速地跟踪系统中激活用户数的变化，并且准确地估计出当前系统的激活用户数。最后，为了解决多用户DS-UWB系统中的多址干扰和远近效应问题，我们从最优化角度、误码识别纠正角度和数据融合角度，提出了三种快速而有效的多用户检测方法，分别为：基于改进人工鱼群算法的多用户检测方法，基于判决反馈和误码识别的多用户检测方法，以及基于决策层融合的多用户检测方法。实验结果表明，这三种改进方法都能以较低的计算复杂度来实现接近最优多用户检测的性能。此外，我们总结了各算法的优缺点和适用场合，为空间编队飞行器DS-UWB的系统设计给出了指导意见。