近几年,无线通信技术迅猛发展,随之而来的干扰管理问题成为当今无线通信系统中制约通信容量与质量的一个关键问题。干扰对齐技术作为解决频谱资源稀缺问题以及提升无线干扰信道容量的有效手段之一,得到了广泛关注。论文针对多用户多天线系统下的迭代法干扰对齐算法中的目标函数优化与算法的梯度优化展开研究。论文首先研究三种经典的干扰对齐迭代算法,包括最小化干扰泄漏干扰对齐算法、最大化信干噪比干扰对齐算法以及联合信号干扰对齐算法,对比分析了不同算法的信道对偶性条件及平均网络速率。在此基础上,论文深入分析干扰迭代算法中迭代目标函数优化问题,重点研究了干扰对齐中基于凸优化方法的秩优化问题。针对凸优化过程中核范数干扰对齐算法没有考虑期望信号功率的问题,提出了矩阵分式干扰对齐算法,该算法同时考虑期望信号矩阵与干扰信号矩阵的目标函数优化,保证了最大自由度同时提升了网络总速率。最后,论文研究了基于梯度优化方法的干扰对齐算法。一般迭代法干扰对齐算法的复杂度高,目标函数收敛速度慢,需要发射机和接收机联合设计预编码矩阵与接收滤波矩阵而产生大量的冗余开销。针对该问题,论文深入分析了干扰子空间的投影距离问题,提出了一种改进的基于最小化投影距离的干扰对齐算法,该算法引入了全局子空间距离,通过Grassmann梯度下降法进行迭代,降低了泄漏于干扰子空间外的干扰能量,并且减小了泄漏于信号子空间外的信号能量,同时不受信道互易条件的限制,只需在发端对预编码矩阵进行迭代优化。与传统的干扰对齐算法相比,所提出的改进后的投影干扰算法能得到更高的网络总速率,比改进前的投影算法拥有更快的收敛速率。