随着移动通信技术的快速发展,移动用户数量呈现几何式增长。大量用户地涌入使得频谱资源变得异常紧张,有限的频谱资源与不断增加的用户需求之间的矛盾越来越突出,所以提高无线通信系统的频谱利用率成为当务之急。天线选择能够降低MIMO技术所带来的射频链路开销和硬件成本,改善系统分集增益,提高系统的可靠性。因此结合天线选择和干扰对齐的联合优化方法对信号的高速率传输具有重要意义。本文将天线选择算法和干扰对齐相结合,在不同场景下进行了研究,具体研究内容如下:1.针对K用户MIMO干扰信道系统中,传统天线选择算法未能有效提高系统容量和频谱利用率,提出一种联合干扰空间投影的天线选择算法。该算法通过对信道矩阵进行奇异值分解,选出一组最好的特征子信道来传输信号,然后根据MMSE原理计算出干扰抑制矩阵。最后,根据空间投影距离来选择最优的天线子集。仿真结果表明,与传统的天线选择联合算法相比较,该优化算法对系统容量有明显地提升。2.针对MIMO系统中用户间干扰严重、天线选择复杂度过高等问题,提出一种基于交叉熵天线选择的干扰对齐优化算法。该算法同时考虑干扰和期望信号之间的相互影响,把两者泄漏到相应子空间的功率加权和作为目标函数计算预编码和干扰抑制矩阵。然后通过交叉熵最优化算法,以最大化最小流间SINR为优化目标,构造与信道相关的目标函数,把天线选择问题转换为一个组合最优化问题。仿真结果表明,与穷举天线选择算法相比所提算法在获得接近最优算法性能的同时,搜索复杂度大大降低。