系统容量是衡量通信网络性能优劣的一种重要指标。多年的研究成果表明,多入多出(Multiple-Input Multiple-Out-put, MIMO)技术,双向中继(Two-Way Relaying, TWR)通信模型等均可在不增加额外频谱资源和总发射功率的情况下成倍提升网络容量。在多用户(Mulit-User, MU)场景下,结合已有的这些技术,采用新型的多址接入(Multiple Access, MA)方式,可以进一步提升频谱利用率,满足未来通信网络的性能需求。信号空间对齐(Signal Space Alignment, SSA)技术作为一种新型的MA方式,可以应用于MU-MIMO TWR网络通信系统中。各通信节点配置多根天线,充分复用空域资源传输多个独立信号流,获得复用增益(Multiplexing Gain, MG)和分集增益(Diversity Gain, DG)。利用SSA技术将无线空域中配对的独立信号流成对地对齐到相同的子空间上,减少信号占用的空间维度,提高空间资源利用率。中继对每一对对齐后信号进行网络编码(Network Coding, NC)处理,提高传输效率,增大系统容量。近年来,有不少学者开展了关于信号空间对齐网络编码(Signal Space Alignment for Network Coding, SSA-NC)的相关研究。但是大多集中于对称信道系统,其研究成果在实际应用下存在局限性。因此,本文重点关注在多用户非对称信道系统中SSA-NC的实现细节以及系统传输可靠性的提升,并结合高效且复杂度低的串行干扰删除(Success Interference Cancellation, SIC)接收机,进一步提升系统资源利用率,实现高效能通信。论文的创新工作如下：首先,针对现有研究并未涉及到的非对称信道系统,提出并研究系统模型建模以及SSA-NC技术在该系统中的应用实现。具体研究内容分为三部分：第一,按照单个用户通信对象不同,将系统分为非对称信道MIMO X网络系统和非对称信道MIMO Y网络系统两种类型,分别分析了这两种系统中多址接入(Multiple ACcess, MAC)阶段和广播(BroadCast, BC)阶段的详细通信过程,以及SSA-NC技术的可行性条件。针对非对称信道系统特征,中继上选用基于符号级的模拟网络编码译码转发(Analog Network Coding and Decode-and-Forward, ANC-DF)协议进行信号网络编码处理；第二,当通信双方用户选用BPSK和QPSK作为编码调制方式,论文研究了分别适用于非对称信道MIMO X和MIMO Y系统的ANC-DF重映射规则,并提出了相应的译码规则；第三,对系统性能进行理论分析,给出了两个系统的可达自由度(Degrees of Freedom, DoF)。推导系统误比特率(Bit Error Rate, BER)的上界,并通过蒙特卡洛仿真,对相关理论分析结果进行了数值验证。其次,研究SSA-NC技术在一般化的非对称信道MU-MIMO X网络中的应用。用户根据信道可支持的最高码率自适应选择合适的编码调制方式。针对自适应的非对称信道系统,论文提出一种可同时满足唯一性原则和保证最小欧式距离最大原则的ANC-DF重映射规则的设计方案。该设计方案通用于一般化的非对称信道MU-MIMO X系统,不论用户选用的编码调制方式如何,基于该设计方案提出的重映射规则都可以实现星座有效简化和对齐信号重映射,具有灵活性和普适性。最后,基于优化能耗资源的角度考虑,研究SSA-NC技术在天线数目有限的无线通信系统中的应用。在MU-MIMO系统中引入功率分配和SIC接收机,利用不同用户信号间的功率分集特性将干扰有效分离。对该系统中SSA-NC技术的可行性条件进行分析。联合利用SSA-NC技术与SIC接收机,在保证系统性能的同时,还可大幅降低系统内节点天线数目的需求,提高频谱资源利用率,达到高效能绿色通信的目标。