随着对无线通信传输速率需求的日益增长,5G通信时代对扩大信号传输频谱的需求急剧增加,现有的传统通信频段和无线通信技术已经无法满足社会进步的需求。毫米波通信技术由于大量的可用带宽以及吉比特/秒的数据传输速率,已经逐渐得到越来越多的人关注。各种毫米波通信技术和结构得到研究,毫米波发展具有很大的前景和热点。然而,毫米波通信除了可以采用大量可用带宽,提高信息传输速率外,其本身在户外传播具有高路径损耗的特点,基站和用户的距离过大将会对通信质量带来很大的降低。因此,基于毫米波多输入多输出(Multiple-input multiple-output,MIMO)结构的波束赋形技术得到了广泛应用。波束赋形技术可以在发射端以波束的形式发射信号,使发射的能量能较为集中的汇聚于某个方向,从而可以很好地抵消高路径损耗问题。同时接收端也可以采用波束赋形技术,以更大的增益在空间的某个方向接收信号。混合模拟/数字预编码已经在毫米波MIMO系统中得到广泛的应用,目的是为了缓解毫米波硬件能耗高的问题。而为了得到收发端波束赋形所对准的方向,多种波束训练算法被提出,传统的穷尽搜索方法会导致在波束训练阶段产生大量的时间开销,这无疑会降低数据在一个帧中的传输时间。本文的贡献是提出了一个应用于混合结构的多用户波束训练算法,该算法能够较高效的实现多个用户的波束搜索。首先,本文提出一个分层的多用户同时波束搜索算法,该算法采用广播训练的方式,协同多用户进行分层搜索。本文首先扩展了毫米波无线局域网(Wireless Local Area Networks,WPAN)分层码本,使其适合于本文的多用户算法的结构;其次在此设计的码本的基础上,提出了多用户同时波束训练的算法,该算法能够达到十分可观的搜索成功率和较小的时间开销。为了使收发端发送的波束角度更为精确,本文还在多用户搜索算法的前提下,提出一个优化方案,该方案只需要可忽略的额外时间开销,便可使收发端的训练角度更加精确,仿真结果证明该方案能达到明显的频谱效率的提升以及相比较于现有文献来说时间开销上的降低。其次,毫米波信道有着空间有效信道稀疏的特性,为了更为充分的利用毫米波信道,波束搜索出多个信道路径方向具有很大的意义。本文在之前提出的单路径波束搜索的基础上,扩展出了多路径波束搜索方案,由于多路径之间信号泄露的干扰,使得路径方向的估计往往很难得到很准确的结果。加上时间开销的限制,多用户多路径的波束搜索存在一定的困难,本文利用空间基角度旋转的方法,降低路径间训练信号的干扰,从而尽可能的使训练的角度更加准确。仿真结果证明了该多用户多路径波束训练方案可以实现很好的波束匹配成功率。