毫米波通信和大规模MIMO技术是实现未来移动通信美好愿景的必要手段。混合波束成形技术融合了传统数字预编码与模拟波束成形技术的优点,在硬件复杂度和系统性能之间进行折衷,为实现毫米波大规模MIMO系统提供了一种可行方案。在混合波束成形系统中,模拟波束搜索部分面临诸多亟待解决的问题。大带宽带来的低信噪比,多天线带来的波束过细和数量过多,导致了波束对齐困难及搜索复杂度过大。同时,由于毫米波信号极易受到障碍物遮挡,通信过程中链路中断的恢复处理,也是有待完善的研究课题。因此,本文主要针对混合波束成形系统中的波束搜索和中断恢复问题展开研究,并取得了两项研究成果。首先,本文针对固定子阵结构下的波束搜索问题提出了一种两阶段搜索算法。天线子阵的划分导致了指数级的搜索复杂度,本文利用单边搜索模式设计了一种两阶段搜索方案,通过逐步确定每个子阵的最佳波束,将搜索复杂度降低为与天线子阵数量的线性关系。仿真结果表明,所提方案能够逼近暴力搜索的系统性能。其次,本文针对信号传输过程中的链路中断问题提出了一种基于信道分簇特征的波束搜索—切换算法。通过对毫米波信道的分簇特性及遮挡前后波束能量变化的分析,本文提出了一种基于能量和相关性的备用波束选取原则,并设计了两种用于生成备用波束的分组算法以及波束搜索和快速切换的详细流程。仿真结果表明,初始波束搜索结果可以逼近性能上界;根据所提选取原则得到的备用波束在遮挡环境下则能够有效提升用户的频谱效率。