作为第五代移动通信（5th Generation,5G）关键技术之一的大规模多输入多输出（Multiple Input Multiple Output,MIMO）技术因在能量效率和频谱效率等方面表现出的诸多优势而受到学术界和工业界广泛的关注。由于大规模MIMO系统中基站天线数量巨大,基站为了精确地获取下行信道状态信息（Channel State Information,CSI）将造成极大系统开销,这也限制了频分双工（Frequency Division Duplex,FDD）模式下5G系统的实际应用。因此,如何以较低系统开销实现高精度CSI反馈成为FDD模式大规模MIMO系统亟待解决的瓶颈问题之一。近年来,深度学习的广泛应用为大规模MIMO系统的CSI反馈问题提供了新的解决思路,智能通信也成为未来移动通信技术发展的新方向。然而,深度学习与无线通信的有机融合目前尚处于探索阶段。现有基于深度学习的CSI反馈方法仍存在模型开销较大、重构精度不高和数学可解释性差等问题,这阻碍了其在大规模MIMO系统中的实际应用。有鉴于此,本文针对现有研究工作存在的问题,综合利用模型压缩技术和具有数学可解释性的压缩感知理论,对基于深度学习的大规模MIMO系统的CSI反馈问题展开研究。具体而言,主要工作如下:（1）分析与叙述了大规模MIMO系统以及两类常见CSI反馈方法。本文首先对大规模MIMO系统模型和信道特性进行了详细分析;随后探讨了基于压缩感知技术的CSI反馈方法,包括对压缩感知理论的分析和经典压缩感知算法的概述;最后阐述了基于深度学习的CSI反馈方法,包括神经元、常见神经网络结构工作原理,基于深度学习的CSI反馈模型。（2）研究了基于模型压缩的自编码器CSI反馈方法。本文针对现有自编码器模型的CSI反馈方法依然存在模型复杂度较高和CSI重构精度较低的问题,首先依据卷积神经网络（Convolutional Neural Network,CNN）的卷积核分解与重组理论,使用新型CNN结构,以降低模型参数量;其次使用更大的卷积核增加网络的感受野,以提高CSI重构精度;实现对现有自编码器模型的改进,并将网络命名为RM-Net。随后为了进一步提高模型的性能,寻找现有模型的最优极限,利用网络蒸馏理论和Hints训练模式,以RM-Net为基准,设计其学生模型RMStu Net,实现模型压缩。系统仿真结果表明,与现有代表性CSI反馈算法相比,所提RMNet与RMStu Net具有更高的CSI重构精度,且RMStu Net的模型参数量更低,从而验证所提算法的优势。（3）研究了基于时间相关性的深度展开CSI反馈方法。本文针对现有基于深度学习的CSI反馈方法可解释性差,CSI重构精度依然较低的问题,首先利用压缩感知理论的数学可解释性,对快速迭代收缩阈值算法（Fast Iterative ShrinkageThresholding Algorithm,FISTA）进行深度展开,设计了FISTA-Net。接着对CSI矩阵的时间相关性进行分析,提出基于时间相关性的CSI差分反馈模型。最后综合以上理论,提出基于时间相关性的深度展开CSI差分反馈网络TD-FISTA-Net。系统仿真结果表明,与现有代表性CSI反馈算法相比,所提TD-FISTA-Net具有更高的CSI重构精度,且具有更强的数学可解释性,从而验证所提算法的可行性和有效性。