5G是具有高速率、低时延和海量连接的新一代宽带移动通信技术。天线和滤波器作为系统前端两个不可或缺的器件,它们的协同设计（滤波天线）可以提高系统的传输效率与通信质量。然而,大多数滤波天线的研究局限于线极化,不适用于某些具体的应用,比如紧凑型室内基站天线。且现有圆极化滤波天线的研究其馈电方式多为探针式馈电、不易于集成、带宽窄、只适用于5G低频频段。另一方面,集成基片间隙波导（Integrated Substrate Gap Waveguide,简称ISGW）具有小型化、易集成以及适用于毫米波等优势有助于设计新颖的圆极化滤波天线。本论文采用ISGW技术并结合圆极化理论、滤波技术提出了两款适用于5G毫米波的ISGW圆极化滤波天线,以解决现有圆极化滤波天线存在带宽窄、不易集成、只适用于5G低频频段、多为探针式馈电的问题。（1）针对现有圆极化滤波天线存在多为探针式馈电、不易集成、带宽窄、只适用于5G低频频段的问题,提出了L形缝隙耦合枝节的ISGW圆极化滤波天线。该圆极化滤波天线在三层ISGW顶层上表面开了一个圆形缝隙并引入矩形微扰贴片完成了圆极化功能,在其馈电端引入L形缝隙耦合枝节产生辐射零点从而实现滤波功能,最终实现了L形缝隙耦合枝节的ISGW圆极化滤波天线的设计。通过特征模式理论阐述了圆极化产生机理,并通过场方向分析了天线的旋向。通过对比仿真结果观察发现引入的L形缝隙耦合枝节在高频处产生辐射零点从而使天线实现了滤波功能,通过电流分布仿真结果进一步解释了L形缝隙耦合枝节产生辐射零点的机理。仿真和测试结果表明,与其他圆极化滤波天线相比,所设计的ISGW圆极化滤波天线具有宽带、易封装、剖面小等优点。（2）为了进一步提高圆极化滤波天线的工作带宽和增益,提出了叉指耦合线的ISGW圆极化滤波天线,验证非对称辐射结构和滤波结构对天线性能的影响。该圆极化滤波天线采用损耗更低的材料设计三层ISGW结构,在ISGW顶层上表面开了一个正方形缝隙并引入两个矩形微扰贴片构成圆极化波辐射结构,在其馈电端引入叉指耦合线用来实现滤波功能,最终完成了叉指耦合线的ISGW圆极化滤波天线的设计。该ISGW圆极化滤波天线工作带宽比L形缝隙耦合枝节的ISGW圆极化滤波天线带宽提高了5%,增益提高了0.8d Bi。