随着社会信息化进程的持续快速发展,人们对无线通信的需求与日俱增。一方面,不断提升的无线通信需求对无线通信性能提出了更高的要求。另一方面,无线通信系统性能的进一步提升面临着频谱资源有限、干扰日益严重化、能量受限和可持续发展要求等多方面严峻的挑战。多输入多输出(MIMO)技术在频谱效率提升、干扰减小和能量效率提升等方面都具有较大的潜力,被公认为未来通信系统的关键技术之一。相应地,多用户MIMO通信网络将成为未来典型通信场景。多用户MIMO系统性能的提升受限于干扰,因此,如何设计收发机减小甚至消除干扰成为当前研究的热点问题。与此同时,以无线能量传输为代表的新技术也将与无线通信不断融合,并由此带来系统传输结构上的新变化。然而,传统单用户收发机设计方法无法有效抑制多用户干扰,也难以适应未来新型无线通信传输结构上的改变。因此,如何针对多用户MIMO系统来设计收发机以对抗多用户干扰并适应无线能量传输等新型应用需求是本文研究的关键问题。本论文以多天线技术为核心,以提升频谱效率和改善能量效率为目标,以干扰对齐、干扰抑制和干扰利用为技术手段,以挖掘空间传输维度和提高资源利用率为途径,着重研究面向干扰抑制和能量收割的多用户MIMO收发机设计理论与方法。所研究的多用户网络场景包括MIMO网络包括干扰信道(IC)、广播信道(BC)和干扰广播信道(IBC)等代表性网络。具体研究内容与创新点简述如下：1)分析了MIMO IC网络线性干扰对齐可达速率。针对MIMO IC网络,分析了信道误差对干扰对齐系统传输性能的影响。首先,研究了非相关瑞利衰落信道条件下信道误差对遍历互信息的影响,推导了非完美信道状态信息条件下干扰对齐系统遍历互信息上下界解析表达式,并证明了上下界的紧致性。进而利用所得到的互信息解析界,分析了信道误差对系统自由度的影响。其次,研究了相关瑞利衰落信道条件下信道误差对给定信道实现的可达速率影响,推导了给定信道实现的可达速率上下界解析表达式。该研究结果对MIMO线性干扰对齐实际系统设计具有理论指导意义。2)研究了MIMO IC网络鲁棒收发机设计理论与方法。在创新点1)的基础上,针对具有高斯信道误差的MIMO IC网络,分别提出了基于随机统计和概率约束的鲁棒收发机设计方案,并相应地设计了收发机优化算法。首先,利用信道的上下行互易性,提出了一种基于平均信号与干扰噪声比(SINR)最大化的鲁棒收发机设计算法。该算法属于随机统计的鲁棒收发机设计,具有较低的运算复杂度,但是所实现的性能仍有改进空间。为了进一步提升系统传输性能,本文又提出了一种基于概率约束的鲁棒收发机设计算法。所提概率约束鲁棒设计方法的设计思路为在约束较大的干扰和噪声功率出现概率的前提下,优化收发机以最大化期望信号的平均功率。与传统收发机设计方法相比,所提鲁棒收发机设计方法可显著改善MIMO IC系统的可达传输速率。3)研究了MIMO IBC网络干扰对齐收发机设计理论与技术。针对未来典型的多小区多用户MIMO传输场景,研究了兼顾用户公平性的IBC网络干扰对齐收发机设计方法。以优化整个网络中最差用户的均方误差为目标,本文提出了一种最小化最大(Min-Max)均方误差收发机设计方案,并提出了基于二阶锥规划(SOCP)的收发机交替迭代优化算法。理论分析证明了所提算法的收敛性。仿真结果表明在强干扰对齐可行条件下,所提算法可获得干扰对齐解。与已有算法相比,所提算法在牺牲少量和速率的前提下,可显著改善用户的公平性。此外,考虑到实际通信系统难以获得完美信道状态信息,本文还提出了一种鲁棒式Min-Max均方误差收发机设计算法。仿真结果表明所提鲁棒式算法可有效改善非完美信道状态信息条件下系统的可达速率。4)研究了多用户MIMO无线信息与能量同传(SWIPT)理论与技术。针对MIMO BC网络,提出了具有用户均方误差和能量收割双重服务质量要求的联合收发机设计和功率分割优化方案。针对MIMO IC网络,提出了以均方误差准则为优化目标的SWIPT系统设计方案。在给定能量收割需求和发送功率约束的前提下,分别构建了以所有用户的“和MSE”和所有用户中的“最大MSE”为优化目标的联合收发机设计和功率分割优化问题。进而针对所提方案中的联合收发机设计和功率分割问题,提出了基于半定规划放松(SDR)技术的交替迭代优化算法。仿真结果表明所提优化算法可有效实现多用户MIMO系统的无线信息和能量同传。