随着第五代移动通信(5G)时代的到来,越来越迫切需要体积小、性能高和易集成的平面型器件。滤波器与天线的一体化设计,极大地减小了系统前端的尺寸,改善了天线增益的边缘选择特性,越来越受到学界和产业界的关注。人为地引入额外的辐射零点可进一步改善天线的边缘选择性,减小不同工作频率天线之间的相互干扰。由于平衡电路具有高共模抑制能力、高抗干扰特性和低共模噪声的优点,因此开展高边缘选择性平衡/巴伦型滤波天线的研究,具有重要的理论意义。论文对耦合型滤波天线的综合设计理论进行了系统的研究,并对平衡/巴伦滤波天线的小型化和高带外选择性方面做了一定的探索,主要研究内容包括以下三部分:首先,基于短路型微带三模谐振器,提出了一款宽带巴伦型滤波天线。对短路型三模谐振器建立了等效电路模型,推导得到谐振器模式和尺寸间的关系表达式,实现了对谐振器各个模式的基本控制。然后利用微带-槽线转换结构,设计出了一款小型化的宽带巴伦滤波器。由于源负耦合的引入,在工作频带边缘产生了一个传输零点,改善了其边缘选择性。进一步,在滤波器的输出部分接入振子辐射单元,通过对偶极子天线和谐振器之间的耦合进行分析,最终设计了一款工作在5G频段(2.95-3.69 GHz)的宽带巴伦型滤波天线。实验结果表明,天线的最大增益达到5.1 d Bi。然后,基于终端加载平行耦合线的结构,设计了一款具有高边缘选择性的平衡滤波天线。对平行耦合线结构的工作原理进行详细分析,得到该结构通带和零点实现的原理。进一步,对贴片天线建立了等效模型,分析其馈电和工作特性。基于谐振器耦合式滤波器综合理论,将贴片天线等效为滤波器的最后一阶谐振电路和负载,得到辐射单元和谐振器间的关系。最终设计并加工了一款应用于5G通信(3.41-3.6 GHz)的高边缘选择性的平衡型滤波贴片天线,其共模反射系数优于0.25 d B,最大增益为6.6 d Bi,电路面积为0.45λ_g×0.61λ_g,辐射零点位置与理论结果相符。最后,基于终端枝节加载结构,提出了一种高边缘选择性的双频段巴伦型滤波天线设计理论。建立了巴伦型天线的等效电路,并对其双频特性进行了详细的参数分析。接着对终端枝节加载结构的谐振特性和传输零点的产生机理进行了分析,使枝节在谐振的同时产生天线工作频带外的辐射零点。最终设计出一款应用在5G频段(3.1-3.6 GHz和4.65-5.55 GHz)的双频段滤波偶极子天线。实验结果表明,天线的带宽得到展宽和具有高边缘选择性。