随着社会发展,日益增长的用户需求催发了第五代移动通信系统(5G)的产生,也给5G带来了巨大的挑战。研究者面向5G提出了很多新技术来应对这些需求。大规模MIMO技术以其高系统容量、高频谱效率等优势,得到了广泛关注,在大量5G场景下均有使用。但是,大规模MIMO系统获得这些性能优势的前提条件是基站和用户都已知理想的上下行链路信道状态信息。由于在FDD大规模MIMO系统中不存在上下行链路信道的互易性,而且天线数量庞大,如何通过其他方法高效准确地获取下行链路的信道状态信息是在5G通信系统中应用FDD大规模MIMO的关键。首先,本文研究了大规模MIMO多天线系统中信道估计的基本原理和方法。在分析无线传输信道衰落和时间相关性的基础上,本文对大规模MIMO多天线系统信道进行了建模,给出了三种基于训练序列的信道估计方法。同时,本文综述了大规模MIMO多天线系统信道估计技术研究中的有限反馈技术和压缩感知技术。其次,本文研究了FDD大规模MIMO系统下的基于闭环反馈的信道估计技术。该方案使用卡尔曼滤波器进行信道估计,通过闭环反馈从备选训练序列集合中选择每个衰落块的训练序列,同时利用了信道的空间相关性和时间相关性。结合高斯马尔可夫信道模型的特征,本文提出了一种基于空间相关性的矢量码本设计方法,应用于基于闭环反馈信道估计算法。仿真结果表明,与其它的随机矢量码本方案相比,基于信道空间相关性的码本设计方法能够获得更好的归一化接收信噪比性能。最后,本文针对FDD大规模MIMO系统的多用户场景,研究了基于压缩感知的信道估计方法。在分析大规模MIMO系统发射天线的阵列结构以及基站和多用户之间的空间位置关系的基础上,本文论述了基站和用户之间信道矩阵的角度域稀疏性。根据该特性,结合压缩感知正交匹配追踪(Orthogonal Matching Pursuit,OMP)算法,本文提出了一种基于反馈的多用户联合OMP改进算法,并通过仿真分析了训练序列长度、发射天线数、用户数合和稀疏度等变量对算法性能的影响。为了自适应无线传输信道,本文提出了一种基于评估序列的训练序列优化设计算法,仿真验证了该方案的可行性。