近年来,移动互联网迅速发展,日益增长的移动数据流量给蜂窝通信网络带来了严峻的挑战。第五代移动通信（5th Generation,5G）是最新一代蜂窝移动通信技术,已经成为学术界和工业界探讨和应用的热点。5G的性能目标是提高数据速率、减少延迟、降低成本和提高系统容量等等。在5G众多关键技术之中,大规模多入多出（Multiple Input Multiple Output,MIMO）技术是其中之一,相比于传统的MIMO,大规模MIMO有很多优势,但是大规模MIMO能实现这些优势是需要基站（Base Station,BS）端能够获取准确的下行信道状态信息（Channel State Information,CSI）。在频分双工（Frequency Division Duplex,FDD）系统中,上下行链路工作在不同的频率,BS端不能利用上下行信道的互易性来直接获取下行链路的CSI,此时需要用户通过上行链路将其反馈给BS。然而在大规模MIMO系统中,BS端天线数量较多,其系统开销很大。因此,为了降低大规模MIMO系统中的CSI反馈开销和提高CSI反馈精度,本文对FDD模式下大规模MIMO系统中的CSI反馈技术进行了研究。本文主要工作如下:（1）研究了无线信道衰落特性,构建了大规模MIMO系统模型,在此基础上分析了大规模MIMO的信道特性,即空间相关性和信道矩阵的稀疏特性,同时对目前一些经典的CSI反馈技术进行了概括。（2）研究了基于压缩感知的大规模MIMO CSI反馈方法。首先详细阐述了压缩感知技术以及贪婪类信号重构方法,在此基础上,针对稀疏度自适应匹配追踪（Sparsity Adaptive Matching Pursuit,SAMP）方法由于采用固定步长导致稀疏度欠估计或过估计的缺点,本文提出一种改进的SAMP方法。所提方法结合稀疏度初始估计、正则化回溯思想以及双阈值指数变步长思想,在保证信号重构精度的同时提高了效率。最后,利用大规模MIMO信道在虚拟角度域的稀疏性,将各贪婪重构方法应用于大规模MIMO系统CSI反馈中,与其他贪婪类信号重构方法相比,所提方法有效地降低了归一化均方误差（Normalized Mean Squared Error,NMSE）和提升了系统容量。（3）研究了基于深度学习的大规模MIMO CSI反馈方法。由于大规模MIMO系信道的空间相关性很强,本文提出了一种基于深度学习的大规模MIMO CSI反馈方法,该方法同时适用于单用户和多用户场景。所提方法首先采用卷积神经网络（Convolutional Neural Networks,CNN）提取信道特征矢量,然后用最大池化（Maxpooling）压缩CSI,最后,分别针对单用户和多用户使用双向长短期记忆网络（Bidirectional Long Short-Term Memory,Bi-LSTM）网络和双向卷积长短期记忆（Bidirectional Convolutional Long Short-Term Memory,Bi-Conv LSTM）网络对CSI进行解压恢复。该方法利用大规模MIMO信道数据对所提深度学习网络进行离线训练,充分挖掘训练样本中的信道信息,使网络学习到大规模MIMO信道的结构特点。仿真结果表明,在大规模MIMO系统下,与其它一些现有的CSI反馈方法相比,所提方法的运行时间更少,反馈精度更高,系统性能提升明显。