中继是无线网络中的重要组成部分,它能够有效降低系统功率消耗,扩展覆盖范围和增强系统总吞吐量。与传统单向中继相比,双向中继利用了网络编码思想,可以成倍提升两用户在中继节点辅助下相互传递信息的速率。多用户多天线双向中继信道是双向中继这一基本单元在多用户多天线场景下的扩展,是描述复杂多用户信息交互网络的重要模型。本文旨以通过自由度分析来探索多用户多天线双向中继信道的容量极限。自由度表征的是系统可以同时传输的独立数据流数目,是信道容量在高信噪比下的渐近表达。由于用户之间双向通信模式的多样化、各节点天线数目的任意化,多用户多天线双向中继信道的自由度及自由度域分析极富挑战。本论文的主要成果包括:1.提出了广义信号对齐技术并给出了其实现的充分和必要条件,克服了传统信号空间对齐天线配置的局限性。基于广义信号对齐技术分析了一般多用户多天线双向中继信道的最大可达自由度,并与理论上界进行对比,在更多天线配置区间得到最优系统总自由度。此外,还分析了用户趋向于无穷时的系统总自由度。2.针对非对称Y型多天线双向中继信道的最优自由度域分析,提出了将自由度域外界内的所有自由度元组分组的思想证明可达性。联合利用天线禁用技术、用户对信号对齐技术和用户环信号对齐的技术分别实现用户对信息交互模式和用户环信息交互模式,为非对称信息交互提供了新的传输方案。3.针对非对称两用户对多天线双向中继信道的最优自由度域分析,提出了联合物理层网络编码和完全解码的联合中继转发策略,以处理用户对之间非对称的数据流交换。将非对称用户天线配置分为三个子类,再将自由度域外界内的所有自由度元组分组,证明每个类别自由度元组可达性。进一步,通过解决一个线性规划问题,分析其性质,得到了该信道的最优系统总自由度的闭式表达式。4.针对非对称X型多天线双向中继信道的自由度域分析,分别给出了其自由度内界和外界。通过分析自由度内外界性质发现当两两用户之间交换的数据流个数相同时自由度域内外界完全重合,表明了所提出的传输方案在这种情形下的最优性。进一步,利用自由度内外界的性质推导出了当每一组组内用户的天线数相同时的系统最优总自由度,为证明系统最优总自由度提供了新的证明思路。最后,通过仿真发现在大多数天线配置下,所得到自由度内外界是重合的。