随着第四代移动通信技术的发展,多输入多输出(MIMO,MultipleInput and Multiple-Output)技术逐渐成熟并广泛应用。增加天线数目可以给系统带来更高的辐射能量效率、更高的鲁棒性与系统安全性,面对下一代移动通信提出的更高技术指标,采用大规模阵列天线为未来无线通信实现更快更稳定的性能提供了可能。同时,面对频谱资源稀缺的现状,毫米波因其丰富的频谱资源受到了广泛的关注,其剧烈的路径损耗也需要配合大规模阵列天线的使用。作为5G的两大关键技术,二者的结合不仅带来了新的机遇,也带来了新的挑战。对于信道估计来说,天线数目的上升使得传统的信道估计算法复杂度骤升而不适用,毫米波信道建模也成为了一个全新的问题。本文基于两种天线阵列结构,包括模数混合天线与毫米波透镜天线,针对一种参数化的信道模型——射线追踪模型对毫米波信道估计方案进行了探究,主要内容包括两部分:第一部分基于模数混合天线结构介绍了一种二维估计离开角与到达角的2D-MUSIC算法,与基于最小二乘法的路径增益估计算法。对于有延时的毫米波信道模型,2D-MUSIC算法会因干扰项的存在导致空间谱模糊。本文推导了基于干扰消除的IC-MUSIC算法可以将毫米波信道中的有效路径分离,逐条路径进行路径方向估计,有效解决了有延时的多径问题,另外还降低了模数混合阵列的成本。第二部分对毫米波透镜天线的信道估计方案进行研究。利用高频电磁信号的光学特性,提出聚焦点判断法估计来波方向。利用TDD模式的信道互易性,反向通信可以得到离开角,通过最小二乘法估计路径增益,重构信道矩阵。该方案利用毫米波透镜天线的优势,提供了更低的算法复杂度,也为毫米波信道估计提供了新的思路。最后,针对可能出现的极端情况改进了聚焦点判断法,提出了基于干扰消除的信道估计方案。