随着第五代（5G,Fifth Generation）移动通信技术的快速发展,毫米波技术由于可以实现高速的数据传输成为了5G通信的关键技术之一。滤波器作为通信系统中的关键性器件,承担着频率选择的重要作用,其性能对通信系统的传输质量有着至关重要的影响。因此,研究高带外抑制毫米波带通滤波器具有重要的理论和实际意义。本文主要针对应用于5G毫米波通信系统中的高带外抑制带通滤波器进行研究,并且基于基片集成波导（SIW,Substrate Integrated Waveguide）技术,完成了多种类型高带外抑制毫米波滤波器的设计。本文的主要研究内容如下:1.提出了一种基于双模SIW和微带谐振器的混合结构谐振器,其中微带谐振器加载在双模SIW谐振腔的内部。首先,利用该混合结构谐振器设计了一种通带独立可控的双通带滤波器,其中双模微带谐振器的奇模和偶模以及双模SIW谐振器的简并模式TE₁₀₂和TE₂₀₁分别构成滤波器的下通带和上通带。由于信号的多路径传输,可以在阻带引入三个传输零点,实现了较高的带外抑制。同时,两个通带都采用双模技术,有利于滤波器的小型化设计。随后,基于混合结构谐振器设计了一种具有准椭圆滤波响应的双模SIW滤波器,将加载的半波长谐振器作为非谐振节点,实现了源负载之间的额外耦合路径,可以在阻带引入额外的传输零点,有效地提高了双模SIW滤波器的带外抑制性能。2.基于SIW技术和低温共烧陶瓷（LTCC,Low Temperature Co-fired Ceramic）技术,提出了一种垂直混合电磁耦合（VMEMC,Vertical Mixed Electric and Magnetic Coupling）结构。该结构在多层SIW的中间金属层上的特定区域刻蚀矩形槽和圆形孔,在不影响SIW谐振器Q值的前提下,实现SIW谐振腔之间的混合电磁耦合,并且有效地减小了电路面积。首先,将VMEMC结构应用于二阶SIW滤波器的设计中,分析了VMEMC结构的电磁耦合特性。在此基础上,利用VMEMC结构,分别设计了工作在Ka波段的三阶和四阶SIW滤波器,两种滤波器都具有高选择性、小体积和宽阻带抑制的特点,在5G毫米波通信系统中具有良好的应用价值。3.研究了基于缺陷地结构（DGS,Defected Ground Structure）和SIW结构的带通滤波器设计。首先,针对传统双模SIW滤波器只能实现单一传输零点以及上阻带存在的寄生谐振频率会恶化带外抑制的问题,提出一种具有宽阻带抑制的双模SIW滤波器。该滤波器将DGS单元加载在输入输出馈线的正下方,可以有效地抑制高次谐振模式,从而达到拓宽阻带范围的目的。此外,通过在特定位置引入额外的微扰通孔,可以将TE₂₀₂模式作为非谐振节点,使得通带的右侧引入了一个传输零点,进一步提高了上阻带的带外抑制特性。随后,针对毫米波滤波器在宽带通信系统中的应用,基于SIW高通滤波器和DGS单元,实现了通带为24.82 GHz～33.27 GHz的宽带SIW滤波器。