由于互联网的飞速发展,在下一代无线通信系统中,对无线流量的需求会大大增加,并且大量的流量将来自于各种各样的多媒体应用。为了满足如此大的流量需求,massive multi-input-multi-output(MIMO)由于其超高的频谱效率被作为一项未来5G移动通信系统关键技术提出来。而大量的天线布置在基站端有限的空间上,势必造成天线排列的特别紧凑,因此天线间的互耦效应所产生的影响就会变得足够大以至于我们不得不考虑其对通信容量的影响。本文研究了一个矩形天线阵列的互耦效应对整个无线系统的影响。为了更加有效地评估带有矩形天线阵列的massive MIMO无线通信系统,本文定义了接收分集增益并在不同的天线间距和天线数量的情况下对其进行了分析。进而推导出了在考虑天线阵列互耦效应情况下的上行链路遍历可达速率及其上限值,并通过仿真得出了天线间的互耦效应对massive MIMO无线通信系统的上行链路可达速率的上限值影响很大的结论。通过仿真我们还可以知道对于一个固定大小的天线阵列,当天线间距为0.5倍传输波长时,上行链路遍历可达速率达到最大值。射频通道的使用成本比较高,而在传统的massive MIMO无线通信系统中,在基站端使用射频通道的数量与使用的天线数量相等,因此成本会非常高,并且造成了很大的资源浪费。为了更进一步地降低成本,本文提出了一个最优的等效预编码方案,并且推导出了在应用等效预编码方案以及一定服务质量(QoS,quality of service)要求限制下,massive MIMO无线通信系统等效容量的表达式及其上限。通过数值仿真讨论并分析了有效容量随独立入射路径数、矩形天线阵列天线间距以及服务质量统计指数等参数的变化情况。并且最后的数值仿真结果表明,相对于传统的迫零预编码方案,在考虑互耦效应的情况下,本文提出的最优的等效预编码方案有更好的性能。