大规模多输入多输出(Massive MIMO)技术可以极大的提升空间维度的利用率,从而有效地提高频谱效率、降低能源消耗,被认为是第五代移动通信系统(5G)中最核心的技术之一。正交频分复用(OFDM)技术能够有效地对抗窄带干扰和频率选择性衰落,而且可以通过逆快速傅里叶变换达成低复杂度实现,在实际系统中被广泛应用。无论是这两项技术,还是二者结合的MIMO-OFDM技术,在5G、B5G和下一代的移动通信系统中,将发挥关键作用,具有广泛的应用前景。信道估计是根据接收数据信息对信道模型的某些参数进行估计的过程,是Massive MIMO/OFDM通信的关键步骤。通过信道估计,接收机可以得到信道的冲激响应,从而为后续Massive MIMO预编码和波束成形、OFDM相干解调提供必需的信道状态信息。因此,其估计的效果和精度,将直接影响通信系统的整体性能。传统的信道估计算法存在着需要先验信道统计特性、导频开销大、复杂度高、鲁棒性差等问题。而且,在Massive MIMO场景中,待估计的参数随收发天线数增加而剧增,同时在实际应用中还存在着导频污染和低精度量化器件的影响,这些因素对信道估计算法设计提出了更多的挑战。近年来,人工智能,特别是深度学习(Deep Learning),在计算机视觉、自然语言处理和语音识别等领域取得了令人瞩目的成果,无线通信领域的研究者们也期望将其应用于通信系统的各个层面,进而产生智能通信,满足人们对于数据传输速率日新月异的需求。作为通信系统中的关键步骤,信道估计问题在智能通信的研究中备受关注。由于基于深度学习的算法无需先验的信道统计特性,且数据迭代训练可以使深度网络模型无限接近于实际的信道场景,故而在降低算法复杂度、处理异构数据、鲁棒性等方面表现出令人惊艳的性能优势。但是,目前的深度学习与信道估计相结合的研究仍处于早期探索阶段,存在着一些问题。1)现有基于深度学习的信道估计算法大多只是把深度学习网络作为一个黑盒子,没有针对信道估计的场景进行优化,存在着单次训练数据和时间开销过大的问题。而且由于信道具有时变性,离线训练完成的网络无法适用于连续的数据传输,普通的学习算法调整和再次训练的成本过高。2)大部分基于深度学习的算法都是针对于一个简单通信系统设计的,没有考虑实际场景因素的影响。特别是面对大规模MIMO的场景,参数维度较高、干扰因素众多,将导致神经网络输入维度增加、网络结构复杂,进而影响信道估计性能。因此,本文的研究从这两个角度出发,采用深度学习的思想和方法,提出全新的基于元学习的信道估计算法,首先在理想的OFDM基带系统中进行算法验证,进而应用在考虑同频干扰和低精度模拟数字转换器(ADC)的大规模MIMO通信系统中,解决实际的信道估计问题。针对第一个问题,我们提出基于元学习(Meta Learning)的信道估计算法。这是一种新的深度学习策略方案。元学习的算法策略不同于普通的监督学习,其定义任务集合和预训练的方式使得算法具有少样本、快速收敛的能力。所提出的基于元学习的OFDM信道估计算法将不同参数的信道模型定义为任务集合,通过不同子任务的元学习训练,使得深度学习网络不仅可以学习到信道传输函数的非线性映射,而且对于各个参数区间的子任务具有良好的适应性,能够根据当前信道状态的少量导频数据快速收敛,提高了算法的鲁棒性和适应能力。对于实际场景与训练数据不一致的情况,我们提出了在线微调的方案,可以解决现有深度学习的信道估计方案存在的单次线下训练开销过大的弊端。仿真的结果显示,所提出的算法可以降低OFDM系统的传输误码率,且对于不同的信道状态和导频数量具有较强的鲁棒性。针对第二个问题,我们从实际问题出发,考虑引入小区间同频干扰和低精度量化器件影响的大规模MIMO信道估计问题,在研究点一的基础上,把信道估计问题分解为回归拟合和插值优化两个子问题。其中回归拟合可以通过第一个研究点的思路求解,对于插值问题,创新地引入计算机视觉领域的处理方法,将插值优化子问题建模为一个超分辨率重建问题。将传统最小二乘信道估计算法的结果作为初始输入,把接收导频算得的包含干扰项和噪声的信道传输矩阵作为一个低分辨率的“图片”,通过超分辨率神经网络重建出高分辨率且去除干扰和噪声的“图片”,在降低功耗、成本的同时,保证了信道状态信息的估计精度。仿真实验和实测数据验证都表明,所提出的深度学习信道估计方案可以减轻由于导频污染和低精度ADC导致的性能下降,从而有效地提升信道估计的精确度。