由于传统的通信频段频谱资源有限,已经无法满足下一代通信系统的需求,毫米波频段逐渐成为下一代通信技术研究的重点。然而,毫米波通讯存在的传输损耗大、易受干扰等问题,也影响了它的应用与发展。鉴于此,本文的研究将围绕基于波束成形网络的多波束天线,通过多波束系统产生的高增益的扫描波束,提升未来毫米波通信的信噪比以及数据安全。同时采用多层集成的方式,减少波束成形网络的尺寸。本文的主要内容包括:系统地介绍了毫米波通信技术发展的必要性,以及学术界近些年来在毫米波多波束天线领域的研究方向。归纳了近年来国内外对于毫米波多波束天线阵的研究成果。介绍了本文的主要工作与创新点。总结了基片集成波导(SIW)的设计方法,介绍了基片集成波导在设计时与普通金属波导之间的对应关系。给出了在毫米波频段SIW缝隙天线阵的设计方法。提出了利用8×8 Butler矩阵作为多波束系统中的波束成形网络以实现天线阵波束扫描的设计方案。介绍了Butler矩阵的基本的工作原理和设计思路。在传统单层8×8 Butler矩阵的基础上,设计了一种基于SIW的双层8×8 Butler矩阵。将设计好的双层Butler矩阵与缝隙天线阵进行了级联,构成了多波束系统。对其进行了实际加工与测试。测试结果表明,相比于传统单层4×4 Butler矩阵,基于双层8×8 Butler矩阵的多波束天线具有扫描精度高的优势。相比于传统的传统单层8×8 Butler矩阵,该结构则具有平面尺寸小,结构简单等优势。在双层8×8 Butler矩阵的基础上,对原有设计进行优化与改进。提出了一种改进型双层8×8 Butler矩阵。该方案通过重新布局Butler矩阵的整体结构,规避了平面交叉耦合器的使用。实验结果表明,相比与上一个方案,改进型双层8×8Butler矩阵在尺寸相差不大的情况下,减少了馈电网络的损耗,同时简化了设计。提出了一种双层的Rotman透镜。介绍了Rotman透镜的基本原理和设计方法。在传统的单层Rotman透镜的基础上,设计了一种工作于毫米波频段的双层Rotman透镜。将该透镜与缝隙天线阵进行级联仿真并加工测试。相对于传统的单层Rotman透镜,该结构在具有面积小的优势的同时,拥有与传统单层结构相似的辐射性能。