随着智能移动终端的全面普及和高速数据业务的飞速发展，用户对多样化应用、个性化服务、用户体验以及绿色节能等方面的要求越来越高，移动通信系统相应地在系统架构、链路传输、组网以及无线资源管理等方面持续进行快速演进。MIMO技术可极大地提升频谱效率和链路传输性能，基于该技术的MIMO、MIMO-OFDM、分布式天线(DAS)等系统已成为国际标准并逐步进入商用阶段。作为传统集中式MIMO系统和DAS系统相结合的产物，分布式MIMO系统能够进一步提高频谱效率、功率效率和覆盖能力，在未来移动通信系统中具有十分广阔的应用前景。　　与传统集中式MIMO系统相比，分布式MIMO系统基站端天线的布设方式不同，且天线数量显著增加。本文根据分布式MIMO系统的上述实际特点，着眼于天线这一关键的无线资源，在深入研究分布式MIMO信道模型、信道容量及天线端口选择、多用户线性预编码等相关关键技术的基础上，全面考虑容量性能、用户公平性、复杂度以及反馈开销等因素，研究单载波单用户、多用户条件下的天线选择技术以及多载波多用户条件下的天线与子载波联合分配技术，主要工作包括：　　1.针对经典天线选择算法复杂度过高、反馈开销过大或性能不佳的问题，充分挖掘和利用分布式MIMO系统复合衰落信道特性和分布式架构特点，提出一种基于端口选择的逐减发送/接收天线选择算法。该算法适用于基站端，采用两步选择、分级优化的方式对经典逐减算法进行改进，先以子信道矩阵的迹为判断依据，剔除部分经历严重大尺度衰落的天线端口，以达到降低复杂度和反馈开销的目的；进而采用参数矩阵更新的方式代替原算法的矩阵求逆运算，整体上降低系统设计复杂度。性能分析结果表明，该算法容量性能逼近穷举算法，计算复杂度显著降低。　　2.针对多用户分布式MIMO系统上行链路基站天线数大于用户天线数的情况，沿用改进逐减算法的思路，提出一种低复杂度的上行接收天线选择算法。该算法通过理论推导对上行系统和容量表达式进行近似转化，给出多用户条件下天线删减参数矩阵和迭代表达式，采用参数矩阵迭代更新方式，避免了复杂的系统和容量计算。复杂度分析和仿真结果表明，相比穷举算法和范数算法，该算法实现了容量性能和复杂度的良好折中。　　3.为了有效地降低多用户分布式MIMO系统下行链路同道干扰(CCI)的影响，以增加系统同时服务的用户数，提高容量性能，提出一种基于干扰抑制的下行发送天线选择算法。该算法在为每个用户选择天线时，先进行端口选择，以降低复杂度和反馈开销，再采用逐减的方法选择使 SLNR损失值最小的天线，以保证每个用户对其他用户的干扰尽可能小。算法先从系统层面上减少CCI的影响，再通过SLNR预编码设计，对残余CCI进行处理，从整体上抑制 CCI。复杂度分析和仿真结果表明，该算法与最优(穷举+SLNR)算法相比，显著降低了计算复杂度；与无天线选择，仅进行SLNR预编码相比，能够有效增加系统同时服务的用户数量，提高容量性能。　　4.针对多用户分布式MIMO-OFDM系统中子载波独占或子信道独占条件下，系统资源利用率不高，限制容量性能的问题，提出一种基于容量最大化准则的天线与子载波分配算法。该算法通过允许子信道共享并进行干扰抑制来实现容量的最大化，将天线、子载波等资源的分配与SLNR预编码相结合，依据SLNR准则为各用户分配独立子信道或相同的共享子信道，其中，共享子信道导致的CCI采用SLNR预编码进行抑制。仿真结果表明，相比已有子载波独占或子信道独占型算法，该算法能够显著提高系统资源利用率，从而有效提升容量性能。　　5.采用分步分配策略，依据“最小速率需求优先、兼顾公平”原则，对基于容量最大化准则的天线与子载波分配算法进行优化完善。在系统资源能够满足所有用户的最小速率需求且有剩余的前提下，建立基于用户公平性的剩余资源优化分配模型，并给出相应的求解方法，在此基础上，提出一种兼顾用户公平性的天线与子载波分配算法。该算法在资源分配过程中首先满足所有用户的最小速率需求，进一步依据优化模型的解来完成对剩余资源的全局细化分配。仿真结果表明，该算法在不同的系统资源条件和用户最小速率需求下均可达到容量和公平性的良好折中。