为了满足日益增加的无线用户对于高速无线业务的需求，未来的无线通信系统将结合多种物理层技术，如多输入多输出（Multiple-Input Multiple-Output，MIMO）、正交频分复用（Orthogonal Frequency Division Multiplexing，OFDM）、认知无线电（Cognitive Radio，CR）和超宽带（Ultra-Wideband，UWB）等。结合这些先进技术的特点和优势将使得未来的无线通信真正实现无“盲区”亦无“忙区”的高速覆盖。在多用户环境下的无线通信系统中，多个用户通过频率复用和空间复用来实现同时通信在提高系统的无线资源利用率的同时也势必会导致多用户之间的相互干扰。干扰对齐作为新提出的干扰管理方法，可以使得系统的容量随着用户数量的增加而线性的增加。干扰对齐技术通过将接收端干扰信号对齐到一个秩远小于干扰信号个数的信号子空间中，从而使得每个发射端都可以利用一半的无线资源发送有用信号。因此，本文在MIMO和UWB这两种技术的基础上，研究了未来宽带无线通信系统中的多用户干扰对齐算法以及应用，与此同时本文总结了对于UWB信道的实地测量工作以及得到的UWB信道模型参数。其主要内容概括如下：1.在以MIMO技术为基础的多用户无线通信系统中，提出一类基于总体最小二乘（Total Least Squares，TLS）超维平面估计算法的子空间划分方法，来实现迭代干扰对齐。首先，本文充分考虑噪声对于子空间划分的影响，通过总体最小二乘算法得到了具有最小误差的干扰子空间的估计。然后，采用“利他”的方法将每一个发射端对其它通信对造成的干扰尽量对齐到远离有用信号子空间的空间里面去，从而实现干扰对齐。最后，我们通过推导证明了算法的收敛性。仿真结果表明本论文提出的基于总体最小二乘超维平面估计的迭代干扰对齐算法能够在中等SNR时实现更低的溢出干扰能量。同时，在高信噪比情况下，算法可以实现更快的收敛速度和更低的溢出干扰。2.在具有非合作干扰的有限信噪比的MIMO系统中，提出了一种结合子空间划分和最小均方误差（Minimum Mean Square Error，MMSE）的迭代干扰对齐算法。算法采用TLS超维平面估计算法得到干扰子空间的最佳估计，并且得到溢出干扰能量最小的有用子空间。之后，采用MMSE准则将接收信号对齐到有用信号子空间中，从而实现干扰对齐。通过结合基于总体最小二乘的子空间划分方法和最小均方误差方法的优点，算法可以在存在非合作干扰的情况下提高系统和速率，得到自适应的预编码矩阵。在仿真中可以看到, TLS+MMSE算法相比与其他的迭代算法来说，在干扰网络中存在非合作干扰的情况下，具有更好的和速率性能。3.提出了一种适用于认知网络环境下基于干扰对齐和中和的合作中继策略，可以在认知用户无法感知授权用户发送信息的情况下，对授权用户的通信提供帮助。认知用户通过充分挖掘在与授权用户同时通信时得到的干扰信号，在授权用户进行重传时作为中继节点来协助授权用户，达到降低授权用户中断概率的目的。此外，对于认知网络中经常用到的UWB信道进行了深入的研究，本文完成了国内首次对UWB信道的实地测量并提出了动态能量门限簇估计算法来提取信道参数。然后通过推导得到了在瑞利和UWB信道条件下，授权用户的中断概率的闭式表达。同时从理论上证明了策略可以为主用户提供分集增益有效降低授权用户的中断概率，并且讨论了在存在信道估计误差的情况下该策略的性能。最后，我们采用授权用户中断概率的仿真结果验证了所提出的合作中继策略的有效性。本论文所提出的基于TLS的子空间划分算法对于研究基于子空间划分的干扰对齐具有一定促进作用，而且在此基础上提出的干扰对齐迭代算法对实际系统中的干扰对齐应用与研究也具有一定积极意义。同时，本文提出的基于干扰对齐和中和的合作中继策略也具有广泛的应用前景。