第五代移动通信系统正在完善与搭建的过程中,而大规模MIMO技术被认为是5G关键技术之一,受到业内人士的广泛关注。在大规模MIMO系统中,为了3D-MIMO技术的实施,高效且精确的DOA估计是必要前提。因此二维DOA算法,对整个大规模MIMO系统有着极其重要的意义。目前,以MUSIC算法和ESPRIT算法为代表的超分辨算法已相当成熟。但在大规模MIMO系统中,庞大的天线阵列所带来的极高的复杂度使这些算法不再适用。因此高效的DOA估计算法成为大规模MIMO技术中一个重要的研究方向。传播算子算法因其低复杂度的特性,在被提出后就得到广泛的应用。该算法利用线性运算代替对整个接收信号协方差矩阵进行特征分解,其算法的复杂度远低于传统的超分辨算法。但大规模MIMO中的超大维度的矩阵运算带来的高复杂度以及二维空间波达角度估计带来的角度匹配等问题仍需要进一步的研究和解决。本文围绕大规模MIMO系统中高效的DOA估计算法展开研究。针对二维DOA估计和算法复杂度问题,提出基于PM算法的改进方法。本文主要工作总结如下:(1)给出DOA估计的数学模型及系统假设,针对大规模MIMO系统,详细介绍了平面矩形阵列的系统模型以及基于该模型的传播算子算法,分析其算法复杂度及估计性能。针对二维空间多信源波达角度估计中存在的参数匹配问题,提出一种基于传播算子的参数匹配的改进算法,抑制角度模糊,且具有较高的鲁棒性。(2)针对二维DOA估计参数匹配问题和系统模型重构问题,提出了基于PM算法的自动匹配算法。通过噪声子空间与信号子空间的正交性构建多项式,利用已估计的参数求出另一个维度的估计参数,实现参数自动匹配。该算法在低信噪比下具有明显的性能优势。(3)针对大规模MIMO系统中,庞大的天线阵列使得接收矩阵协方差维度增大,带来的复杂度过高问题。提出了互协方求根MUSIC PM算法。通过将天线阵列分成两个子阵列,构造互协方差矩阵,减小了数据矩阵的维度,在保证一定估计性能的前提下,降低了算法运算复杂度。同时互协方差矩阵维度可调节,可实现估计性能与算法复杂度的折衷。