随着移动互联网的快速发展和流量需求的日益增长,第五代无线通信技术(Fifth Generation Wireless Systems,5G)应运而生,而为了满足5G通信的性能需求,三维大规模多输入多输出(Three Dimensional Massive Multiple Input Multiple Output,3D Massive MIMO)以其诸多优势成为5G通信的关键技术之一和主要的天线场景。在现代通信中,视距(Line Of Sight,LOS)/非视距(Non Line Of Line,NLOS)传输条件的认知对于包括定位、认知无线电等无线应用的性能的提升有着非凡的意义,同时对多种实际MIMO场景下良好传播、用户信道相关性等问题的研究也有一定影响。此外,LOS/NLOS条件对于基站的部署也有着重要的参考价值,因此实现尽可能准确的LOS/NLOS条件的识别十分必要。然而,该问题在3D Massive MIMO系统中还未得到足够重视,因此本文重点对该场景中的高精度LOS/NLOS识别方法进行了研究。本文的主要贡献在如下几方面:首先对3D Massive MIMO技术和基于3GPPTR 38.901协议的3D MIMO系统模型进行了介绍,并在基于MATLAB的3D MIMO信道生成平台上进行了研究。之后介绍了基于离散傅里叶变换(Discrete Fourier Transformation,DFT)变换域的多用户信道估计和单用户(Signal to Noise Ratio,SNR)估计算法,该算法利用探测参考信号(Sounding Reference Signal,SRS)导频序列完成。另外还对研究中用到的深度学习和卷积神经网络(Convolutional Neural Network,CNN)进行了系统的介绍。然后本文提出了两种改进的基于时间-空间-频率信道相关性的识别方法,用于3D Massive MIMO系统的LOS/NLOS识别。所提方法根据LOS/NLOS在3D Massive MIMO系统下的信道相关特性的不同,利用大量历史数据来构建统计识别模型,并通过假设检验的方式对用户的LOS/NLOS传输条件进行判决。现有工作一般假设基站知道完美的信道信息,为了验证研究的现实意义,本文在此基础上,还考虑了通过信道估计来模拟实际通信场景,并在两种场景下对所提算法均进行了性能验证和研究。相比对比算法,所提算法在两种场景下的LOS/NLOS识别性能均有十分明显的提升,达到了很高的精度。此外,本文还对天线数、时域径数、用户SNR等因素对所提算法性能的影响进行了讨论与研究。最后,本文将深度学习的相关技术应用到通信领域,提出了一种基于SNR估计的高精度分段CNNLOS/NLOS识别方案。该算法首先提出了一种在低SNR区域表现优秀的单用户SNR估计算法,并在多用户(Multi-user,MU)MIMO场景下,提出一种通过分别配置子载波来同时实现准确度较高的SNR估计和信道估计的方法,并通过该方法获得用户的SNR及时域抽头能量矩阵。在估计精度很高的低SNR区域,针对不同SNR的用户,将其抽头能量矩阵作为输入,利用CNN模型的分类功能,经过训练和参数调优,对输入进行学习和特征提取,分别获得相应的CNN模型,从而实现高精度的LOS/NLOS识别。在估计精度不足的高SNR区域,不对SNR不同的用户进行区分,仅训练一个CNN模型对该区域用户的LOS/NLOS条件进行小范围的盲识别。所提算法解决了 MU-MIMO下多用户SNR估计困难的问题,并在此基础上,分段实现了超高精度的LOS/NLOS识别,性能优于一般的传统识别算法和现有的基于CNN的LOS/NLOS盲识别算法。