随着社交网络和智能终端的兴起,未来几年的移动通信业务需求将会爆炸式增长。同时,低能耗和广泛覆盖也是未来B4G/5G无线网络的发展需求。现有的4G技术已经不能够满足这些业务需求。为了适应这些需求,未来的无线网络架构将会向多层网络融合的方向发展。虽然通过叠加覆盖的稠密网络可以有效的解决热点地区的容量覆盖和覆盖盲区的问题,但是这种叠加覆盖的多层网络具有更加复杂的拓扑结构,多层网络之间会产生严重的层间干扰,导致相比于4G网络更加复杂的干扰结构,有必要在现有的通信系统中引入干扰对齐,协作认知干扰对齐,绿色干扰协调等一系列新技术。本论文深入研究了“面向B4G/5G无线网络的干扰对齐与干扰管理技术研究”这一课题,针对K用户干扰信道,多小区广播干扰信道,认知无线电系统等面向B4G/5G无线网络的场景,分别从频谱效率和绿色通信的角度,研究了面向B4G/5G无线网络的干扰对齐与干扰管理传输方案。本论文研究的内容主要涵盖多小区广播干扰信道的分层干扰对齐传输方案,主次基站不协作的认知干扰对齐传输方案,基于主次基站协作的认知干扰对齐收发机设计,基于权值可调的鲁棒干扰对齐收发机设计,干扰协调模式下非线性能效最大化的传输方案,干扰协调模式下资源效率最大化的传输方案。具体研究内容和主要贡献如下：1.针对多小区MIMO多用户下行传输系统,研究了基于分层干扰对齐的收发机设计问题。首先,基于这种分层的收发机结构提出了广义干扰对齐的传输方案。为了改善广义干扰对齐方案中低信噪比性能,提出了一种改进的加权均方误差最小化分层收发机迭代优化算法。仿真结果表明,所提的两种方案可以有效的消除干扰,且改进的加权均方误差最小化算法可以有效的提升中低信噪比区域的和速率性能。2.针对由一条主用户链路和多条次用户链路组成的认知无线电系统,首先利用Bezout定理分析了主次基站不协作的认知干扰对齐的可行性条件。在此基础上,提出了一种基于信号子空间的认知干扰对齐迭代优化算法。然而,由于该算法在次用户的每一个数据流进行等功率分配,导致次用户的期望信号子空间中总是有残余的干扰信号。为了解决该问题,进一步提出了联合信号子空间和功率分配的增强认知干扰对齐算法。仿真结果表明,相较于传统的认知干扰泄露最小化算法,所提的两种算法都能获得较为明显的性能增益。3.针对由多条主用户链路和多条次用户链路组成的稠密感知网络,研究了主次基站协作的认知干扰对齐问题。首先,分析了协作认知干扰对齐的可行性条件,并且推导了新的网络架构下的可达自由上界。同时,提出了一种改进的基于主次基站协作的干扰泄露最小化迭代算法来验证可达自由度上界的合理性和有效性。理论分析和数值结果表明,所提的算法自由度上界总是不低于传统的认知干扰对齐的可达自由度上界,且只需要牺牲主用户网络少量的性能损失,就可以换来次用户网络以及整个系统的性能提升。4.针对K用户干扰信道,研究了信道存在误差时干扰对齐收发机设计的问题,即优化求解干扰信号泄露到有用信号子空间中的功率与期望信号泄露到干扰信号子空间中的功率的加权和最小化问题,同时满足每个数据流上等功率分配约束以及信道误差为球形误差模型约束。为了求解此非凸优化问题,首先采用迭代优化技术把原始优化问题分解两个子优化问题,然后采用Rayleigh-Ritz定理可以分别得到预编码矩阵和干扰子空间矩阵,进而提出了一种权值可调的鲁棒干扰对齐收发机设计算法。仿真结果表明,相对于传统的鲁棒干扰对齐算法,所提的鲁棒干扰对齐优化算法那可以获得明显的和速率性能增益,有效地减少了信道误差的影响。5.针对工作在干扰协调模式下的多小区多用户MIMO下行传输场景,研究了基于脏纸编码的非线性能效预编码优化设计问题,为了有效的求解此非凸优化问题,首先利用经典的Arimoto-Blahut算法和分数规划理论,将原始优化问题转化为多项式线性优化问题。然后利用拉格朗日对偶理论对后者进行求解。最后,提出了采用脏纸编码的非线性能效优化算法。仿真结果表明,相对于传统的线性能效优化算法,所提的算法由于采用了脏纸编码技术,性能更为优越。6.针对工作在干扰协调模式下的多小区多用户MIMO下行传输场景,研究了资源效率最大化的优化问题。这里资源效率定义为能量效率和频谱效率的加权和,能够表征两者之间的折中关系。为了有效的求解该非凸优化问题,首先利用Arimoto-Blahut算法和分数规划理论,将原始优化问题转化为含有参数的多项式相减的形式,然后利用拉格朗日对偶理论推导出关于每一个优化变量的解析表达式,最后提出一种资源效率最大化的迭代优化算法。大量的数值仿真结果验证了所提算法的有效性及相应的性能分析与比较。