随着无线通信的迅猛发展,新一代无线通信系统中人们对高速率和高质量的服务需求更高。但是有限的频谱资源日益紧张,以及无线传输环境中的衰落和多径失真不容忽视。通过在发射端和接收端配置多根天线,多输入多输出(MIMO)系统能够充分开发空间资源,在无需增加带宽和发射功率的情况下,成倍地提升通信系统的容量和可靠性。本论文主要研究发射端采用最大比发射和接收端采用最大比合并技术的MIMO系统,即MIMO MRC系统的性能和阵列栅瓣的抑制技术。本文首先研究了共信道干扰下MIMO MRC系统的性能。建立了共信道干扰下存在信道估计误差的MIMO MRC系统模型。在此基础上,分别推导出具有相等功率和互不相等功率的共信道干扰下系统输出信干噪比的累积分布函数和误符号率的闭合表达式。利用这些表达式,很容易分析共信道干扰和信道估计误差对系统性能的影响,而无需冗长的计算机仿真和复杂的数值积分。结果表明相对于存在共信道干扰的情况,无共信道干扰时系统的误符号率性能更敏感于信道估计误差。其次,针对相关MIMO MRC系统,利用矩阵理论和多元统计理论,推导出相关复Wishart矩阵最大特征值的概率密度函数和累积分布函数,分别得出发射端和接收端存在相关时MIMO MRC系统的容量性能(包括中断容量和平均容量)的闭合表达式,进而详细分析了空间相关对系统性能的影响。再次,研究了空间相关对联合空间分集和调度策略的多用户MIMO系统下行链路性能的影响。推导出接收天线之间存在相关时多用户MIMO STBC系统和MIMO MRC系统的中断容量、平均容量表达式,并由此进行性能分析。计算机仿真验证了理论分析的有效性。最后,通过分析栅瓣产生的机理探讨了窄带和宽带阵列天线的栅瓣抑制方法。对于窄带接收信号,利用三个相交的大间距均匀线阵,通过设置它们之间的角度和主瓣指向相同使各自的栅瓣位置错开,然后把三个方向图相乘从而抑制大间距阵列栅瓣,因而适用于宽频带工作;对于(超)宽带接收信号,利用Bessel函数设计与频率有关的加权系数,产生整个信号带宽内恒定的方向图,从而抑制了高频部分的栅瓣。