大规模多输入多输出(Multiple Input Multiple Output, MIMO)技术能够提供极高的频谱效率,是未来第五代无线通信的候选技术之一。然而,多小区大规模MIMO系统的性能受到小区间干扰的严重影响,原因就是信道相干时间受限,造成正交导频的数量不足,无法在小区间分配。本文针对小区间干扰问题,提出了有效的导频设计方案和信道估计方法。同时,波束形成是减轻干扰的可行方法,采用该方法的前提是获得精确的角度参数估计。然而,目前的角度参数估计方法的计算复杂度较高。本文针对不同的天线阵列,提出了多种低复杂度的非相干分布式信源角度参数的估计方法。本文的主要创新点归纳如下：1)针对多小区大规模MIMO系统,本文提出了一种半盲信道估计方法。依据大规模MIMO信道向量的渐进正交性,并利用信道矩阵的列空间信息,使该方法引入了更少的小区内干扰。在天线数量有限和天线数量无限这两种条件下,本文分析了所提方法的性能。根据性能分析,本文利用多组ZC (Zadoff-Chu, ZC)序列设计了一种有效的导频来最小化小区间干扰。并且为了消除小区内干扰,给出了ZC序列的循环移位值。2)本文提出了针对多小区大规模MIMO系统中一般线性接收机的导频。首先,当大规模MIMO系统采用一般线性接收机时,我们推导了系统的渐进接收信干比。并提出了以最大化信干比作为导频设计的准则。然后,本文利用循环移位ZC序列的正交性设计导频来消除小区内干扰。最后,根据所提导频设计准则,设计了ZC序列的相位。3)针对大规模均匀线阵,本文提出了基于分布匹配的非相干分布源波达角(Direction-Of-Arrival, DOA)估计方法。本方法利用阵列流形的渐进正交性,把协方差矩阵转换为向量,减少用于估计的数据数量。当天线数量趋于无穷,并且不同用户DOA的概率密度函数趋于正交时,证明了估计能够收敛到真实值。并且所提方法的计算复杂度比传统方法的更低。4)针对大规模均匀矩形阵,本文提出了基于旋转不变子空间算法的非相干分布源DOA估计方法。首先,我们利用阵列结构获得二维DOA的耦合函数,然后解耦二维DOA,获得DOA的闭式解。此外,我们分析了本方法在快拍有限下的估计性能,并推导了估计误差的近似克拉美劳界(Cramer-Rao Bound, CRB)。最后,分析了本方法的计算复杂度,它具有更低的复杂度。5)针对大规模均匀圆柱阵,本文提出了基于波束空间变换的非相干分布源DOA估计方法。本方法利用波束形成向量,把接收信号向量从元素空间变换到波束空间,降低了接收信号向量的长度。并且,本方法的搜索准则比现有的准则能够获得更好的估计性能。我们分析了变换接收信号向量带来的误差,说明该误差随着天线数量的增加而趋于零。另外,我们也推导了针对均匀圆柱阵的估计误差的近似CRB,它比现有的界更精确。最后,分析证明本方法比传统方法具有更低的计算复杂度。