随着用户数的迅速增长和高容量需求的不断增加,多输入多输出(MIMO)技术已成为新兴无线网络中重要的研究课题。多输入多输出技术可利用不同分集方案,能够大幅度提高频谱利用率、信道容量和数据的传输速度；V-BLAST空时编码是在MMO信道中获得所需容量的重要方法,它通过空间复用,使其在衰落信道中能产生更高的频谱效率,而智能天线(波束成形)具有增加用户容量和减小干扰的能力。这些技术对于提高系统容量、抑制干扰、管控拥堵、平衡基站用户负荷等具有明显成效。本文针对新兴无线通信系统,应用空时编码、网络编码等方法,对MIMO和波束形成技术进行了深入研究,取得了创新成果,所提出的解决方案可有效增加系统容量,改善频谱效率,提高干扰抑制性能。本文的主要创新工作如下：(1)提出了具有变焦波束形成和负载均衡能力的多用户MIMO方案。现有方案都集中在无负载均衡的多用户多层传输上,这样,无线网络的能耗、时间延迟和数据处理延时等系统性能就会下降。本文提出的负载管理方案基于波束形成层的变焦(放大和缩小)技术,通过单个波束来传输和处理多个用户,并考虑负载均衡问题,因而在具有相同能耗的无线网络中,是一种可提高系统吞吐量、降低系统拥塞、增大数据速率的有效方法。(2)提出了一种有效的LTE上行链路传输方案。通常,探测参考信号和解调信号分别传输,这会导致一些限制,如各层之间和基准信号符号之间的干扰、延迟的增加以及LTE上行链路传输总吞吐量的降低等。为此,本文基于上行链路的参考信号来估计信道特性,通过在探测参考信号的信令符号中整合解调参考信号的信令信息作为单值探测参考信号(SV-SRS),提出了一种LTE上行链路传输方案。在该方案中,解调参考信号的备用容量用于上行数据,因而提高了上行链路的整体容量。此外,该方案还可抑制符号和信道干扰,降低LTE上行链路的误码率。(3)对具有分集增益与编码增益的MIMO系统进行了性能比较研究。无线网络需求的不断增加,对数据传输速率、传输距离和设备能耗提出了更高的要求。本文应用空时编码方法,对具有编码增益与分集增益的4×2和4×4 MIMO系统的性能进行了详细比较,其中分集增益由正交空时编码(OSTBC)实现,编码增益采用了码率为1/2和1/4的Turbo码编码方案。性能比较结果说明,在MIMO系统中,分集增益和编码增益的结合,可提高无线网络的数据率和多用户处理能力。(4)基于物理层网络编码(PNC),提出了一种垂直分层空时码(V-BLAST)与PNC组合的MMO方案。该方案为了解决数据传输的可靠性和提高分集增益,采用将V-BLAST和PNC相结合的多用户MMO策略,并通过引入包冗余来避免上层分组传输的重传,从而提高了无线网络的吞吐量和系统性能。(5)针对三维波束形成传输,提出了一种同频同时全双工(CCFD)系统中的自干扰迁移方法。三维波束形成网络具有维数分集,它根据用户指定的水平和垂直扇区以及瓦状波束形成进行传输。通常,三维波束形成的收发器传输是基于半双工的方式工作,或者频分复用(FDD)或时分复用(TDD),这会消耗额外的频谱和能耗。为此,为协调三维波束形成传输,提出了同频同时全双工(CCFD)的自干扰迁移方法,从而提高了系统能耗性能和频谱有效性。