在大规模MIMO（Multiple Input Multiple Output,MIMO）系统中,传统的线性信道估计算法所需要的导频开销显得相当庞大,最小二乘法（Least Sqaure,LS）、最小均方误差（Minimize Mean Square Error,MMSE）和基于压缩感知技术的算法复杂性也日益增加。为克服上述问题,利用大规模MIMO信道的稀疏特性,可以减少信道矩阵的有效维度,将深度学习技术与压缩感知技术相结合,来解决在大规模MIMO系统中的信道估计问题。首先,将深度学习技术与压缩感知技术相结合,提出了一种卷积重构网络（Convolutional Reconstruction Network,CSNet）的信道估计算法。该算法的主要思想是将深度学习中数据驱动方法与压缩感知方法相结合,用CSNet网络取代传统的重构方法。在网络的最后一层添加了判断,使符合系稀疏特性,同时丢弃最终信道估计值的虚部,获得最终估计信道。仿真结果表明,该算法在均方误差（Mean Square Error,MSE）性能和误比特率性能方面都有较好的表现。其次,在数据驱动的深度学习信道估计中,由于网络连续层的信息丢失,很难生成更真实的信道矩阵,不会显著提高估计性能。为了提高性能,提出了一种改进的生成对抗网络（Generative Adversarial Networks,GAN）信道估计算法。在该算法中,引入了随机量化方法来改善GAN网络的输入,使输入数据更加真实。通过在生成器和判别器中分别引入惩罚项,生成一个新的优化目标函数,从而使网络优化方向正确。对生成器和判别器进行对抗训练来预测更真实的信道。数值仿真结果,从归一化均方误差（Normalized Mean Squared Error,NMSE）的角度表明,该方法明显提高了大规模多输入输出系统信道估计的准确性。最后,将模型驱动与数据驱动结合,提出新的基于去噪的近似消息传递（Denoising-based Approximate Message Passing,DAMP）的深度卷积学习网络LDAMP-Net。该网络为迭代算法,每次迭代的LDAMP-Net块由可学习的LDAMP（Learned-DAMP）网络和深度卷积学习网络（Convolutional Neural Network,CNN）组成。首先改变了原有LDAMP网络中的去噪器,提出新的去噪函数,利用波束空间信道矩阵的稀疏性,得到了初始的近似解。增加深度卷积学习网络,减少信道噪声的影响,进一步对LDAMP网络得到的估计值进行优化。综上,本文将深度学习中的数据驱动方法和模型驱动方法用来进行信道估计,首先将深度学习中数据驱动的方法与传统的压缩感知技术结合,得到CSNet网络进行信道估计。再针对数据驱动网络中连续层的信息丢失导致很难生成更真实信道矩阵的问题,采用改进GAN网络进行信道估计。最后提出模型驱动和数据驱动结合的LDAMP-Net网络,结合数据驱动和模型驱动的特点进行信道估计。