与传统的移动通信技术相比,5G通信要求更高的传输质量、更快的传输速率和更大的信道容量,这些性能的提升,离不开对大规模MIMO系统和毫米波频段的探索,不同于以往的信道估计,由于基站端天线数较多,大规模MIMO信道估计需要的训练开销更大,需要算法降低计算复杂度,增加自适应估计能力。针对大规模MIMO信道下行链路多路径信道状态信息(Channel State Information,CSI)估计问题,本文提出了模式共享稀疏贝叶斯学习(Pattern SharingSparse Bayesian Learning,PS-SBL)方法,将信道向量划分为长度相等的多组矢量,每组都用一个共同的超参数相关联,使得多组矢量系数具有相同的稀疏性。将信道系数作为隐变量,超参数作为未知参数,基于期望最大化(Expectation-maximization,EM)框架,提出了一种贝叶斯推理的迭代算法,估计出信道后验概率。针对频分双工模式的多用户多输入多输出系统的下行信道估计问题,假设一个基站与K个移动用户通信,由于物理传播中的有限散射,每个信道矩阵在虚拟角域是稀疏的,不同的用户往往共享部分共同的散射体。因此,不同的信道矩阵存在部分共同稀疏模式,本文设计了一个高斯混合先验模型,采用基于变分贝叶斯推理的信道估计方法,能够有效地重构各用户的稀疏性。另外,本文基于GAMP近似迭代理论,提出的信道近似后验概率算法,能有效避免矩阵求逆,降低信道估计的计算复杂度。本文做上行和下行信道估计时,都假设稀疏信道服从某一参数的高斯分布,利用了信道在空间域具有的共同稀疏特性,基于期望最大化的方法从测量矩阵中学习先验参数,从而重构稀疏信道。仿真结果表明,本文提出的算法性能明显优于同类算法,能够逼近理想状态下最小二乘(Least squares,LS)方法的性能极限。