二十一世纪以来,移动互联网的快速发展,使得移动通信业务处于爆炸式增长的状态,因此未来移动网络在系统容量、可靠性和时效性方面都面临巨大的挑战。作为无线通信技术核心之一,协作大规模多输入多输出（Multiple-Input Multiple-Output,MIMO）技术在数据传输安全性、通信网络传输速率和频谱效率等方面具有很大的优势。本文主要针对不同场景下,对协作3D（three dimensional）大规模MIMO系统的传输技术及性能展开研究,从理论上分析和评估基于非理想信道下的信道估计以及硬件损伤对协作通信系统性能的影响。主要研究内容如下:第一,研究基于非理想信道状态（Channel State Information,CSI）下,使用迫零（Zero-forcing,ZF）处理的多路大规模MIMO放大转发（Amplify-and-Forward,AF）协作中继系统的性能,利用随机几何理论分布用户的位置,建立了用户同中继之间的无线信道模型,基于莱斯衰落信道模型,研究了通信系统的频谱效率性能,得到了频谱效率的闭式表达式,并进一步得到了发送和接收功率的幂律分布的渐进表达式,进而分析了天线数同发送接收功率对系统渐进性能的影响。仿真实验结果表明,大规模MIMO系统可以弥补衰落因子K对系统性能的影响,同时部署大规模的天线阵列可以有效缓解衰落信道所产生的影响。第二,基于非理想硬件对系统产生的影响,研究了在硬件损伤下使用最大合并比（Maximum Ratio combining,MRC）处理的多路大规模MIMO协作中继系统的频谱效率性能,基于莱斯衰落信道模型,分别考虑了发送天线和接收天线的硬件损伤对于系统产生的影响,得到了对应的频谱效率的闭式表达式以及信噪比条件下的渐近性能。仿真实验结果表明,硬件损伤越小,系统可实现的频谱效率便会越高,当在发送天线处使用较低质量的硬件时,不会对系统的频谱效率产生较大影响。图9幅,表0个,参考文献76篇。