本论文主要对混合交叉耦合矩阵综合理论及混合交叉耦合滤波器进行了研究，提出的混合交叉耦合广义切比雪夫滤波器减小了滤波器谐振器数目，提高了滤波器设计的灵活性，具有体积小，选择性好，带外抑制高、传输零点可控等特点，可以很好满足微波通信系统小型化、高性能的发展要求。首先，本论文详细阐述了广义切比雪夫滤波器N及N+2阶矩阵综合理论，并在此基础上将混合电磁耦合融入到交叉耦合矩阵中，建立一含频变项的混合交叉耦合矩阵，该混合交叉耦合矩阵可以很好反映出滤波器传输零点个数及位置。采用遗传和Solvopt综合算法对目标混合交叉耦合矩阵进行优化及提取，并通过实例对其有效性进行验证。其次，本论文提出一种SIR混合耦合谐振结构，并基于该混合耦合结构设计一系列混合电磁耦合滤波器，通过混合耦合中电磁抵消效应在滤波器通带附近引入多个有限传输零点，对滤波器带外杂波抑制及频率选择性进行改善。首先基于该SIR混合耦合谐振结构设计二阶混合电磁耦合滤波器，给出混合耦合滤波器结构参数与耦合矩阵参数之间的数值对应关系，并采用数学方法对其传输零点进行了分析；基于该SIR结构三阶混合交叉耦合滤波器，通过在传统交叉耦合滤波器交叉耦合臂引入一混合电磁耦合，可以滤波器通带附近额外产生一传输零点，使该滤波器具有较高的频率选择性；基于SIR混合谐振结构的双频带滤波器，通过在双频带间引入多个传输零点，使其具有较高的带外抑制及频带间隔离度，其中基于嵌入式结构的双频带滤波器通过将一SIR谐振单元嵌入到另外一SIR谐振结构中，使该滤波器结构更加紧凑。此外，提出一种扇形SIR发夹线结构，相对传统SIR发夹线具有更高的阻带抑制特性，采用该结构可灵活设计出具有广义切比雪夫函数低通及带通滤波器，其中在基于该结构的混合电磁耦合滤波器中，通过嵌入一Π型电容网络，使该滤波器带外阻带得到进一步拓宽。再次，本论文提出一种小型化六角形SIR混合耦合谐振单元，该谐振结构具有结构紧凑，便于多级谐振器级联等特点，能够灵活构造多种混合电磁耦合滤波器。基于该谐振结构的级联混合耦合滤波器，利用混合耦合中电磁抵消效应可在滤波器通带附近引入多个传输零点，对其频率选择性及带外杂波抑制进行改善。最后，本论文采用双层金属面谐振结构进行一系列混合电磁耦合滤波器设计，该滤波器结构紧凑，选择性高。根据双层混合耦合谐振单元中螺旋电感绕线方向，将混合电磁耦合分为加强型和削减型两种方式，借助二阶混合耦合滤波器对该两种方式进行比较及分析，削减型结构混合耦合可在滤波器通带附近产生传输零点。然后通过在传统三、四阶交叉耦合滤波器的交叉耦合臂上引入一混合电磁耦合，构造出新的混合交叉耦合滤波器，该滤波器在带外具有更多的传输零点，使其具有更高的频率选择性及带外抑制。