微波滤波器是现代通信系统中发射端和接收端必不可少的器件，它对信号起分离作用，让有用的信号尽可能无衰减的通过，对无用的信号尽可能大的衰减抑制其通过。随着无线通信技术的发展，信号间的频带越来越窄，这就对滤波器的规格和可靠性提出了更高的要求。同轴腔体滤波器具有高Q值、低插入损耗、功率容量大、易于实现、性能稳定等优点而具有很高的应用价值，因此研究它的优化设计方法是十分必要的。本文以腔体滤波器的优化设计为主，首先研究了交叉耦合滤波器耦合矩阵的综合及相似变换，编写了Matlab程序对耦合矩阵进行综合和相似变换，为滤波器耦合矩阵的综合和相似变换提供了一种有效的解决方法；其次对TE01模介质谐振器进行了研究，通过对其电磁场分布特性的分析提出了改进谐振器的结构来抑制高次模的方法，并设计了一种用于LTE频段的腔体带通介质滤波器；文章最后研究了用神经网络优化腔体滤波器设计的方法。研究的主要内容及研究成果如下：1、阐述了本文的研究背景和意义，回顾了切比雪夫低通滤波器原型以及频率变换和倒置变换等微波滤波器设计的基础原理。2、研究了交叉耦合矩阵综合及其相似变换的理论，实现了对耦合矩阵综合及其相似变换的软件化操作，为滤波器耦合矩阵的综合和相似变换提供了一种有效的解决方法。为了检验该Matlab程序的有效性，本文给出了一个用Matlab程序对耦合矩阵进行综合与化简的实例。把经Matlab程序综合出的耦合矩阵代入到电路仿真软件AWR中进行验证。电路仿真结果显示经Matlab编程所计算出来的响应曲线与等效电路仿真曲线完全吻合，这就证明了本文所编写Matlab程序的正确性，可在滤波器的工程设计中应用。3、研究了TE01模腔体介质带通滤波器的设计。首先分析TE01模介质谐振器的工作原理，对介质谐振器的电磁场分布特性进行了研究，提出了改变介质谐振器的结构比例来抑制高次模产生的方法；其次研究了介质谐振腔间的耦合结构，介质谐振腔之间的耦合结构与金属谐振器不同，它们之间是正耦合还是负耦合主要与它们的电场和磁场的分布有关；最后设计了一种用于LTE通信频段的腔体介质带通滤波器。实物测试结果显示该腔体介质滤波器具有很好的滤波特性，不但对远端高次模的产生有较好的抑制而且还具有很低的插入损耗。4、研究了神经网络在腔体滤波器优化设计中的应用，提出了建立神经网络模型提取滤波器耦合参数的方法，避免了滤波器设计中重复仿真的过程，提高了滤波器的设计效率，缩短了滤波器的设计周期。神经网络与传统的滤波器建模技术相比具有仿真速度快、精度高、建模自动化程度高等优点，因此把神经网络引入到滤波器的设计中，不但可以缩短滤波器的设计周期而且还可以提高滤波器的设计精度。文章研究了将神经网络用于优化滤波器设计的可行性，提出了建立神经网络模型来提取滤波器耦合参数的方法；最后运用神经网络优化的方法，采用四分之一波长SIR作为基本的谐振单元，设计了一款小型化同轴腔体带通滤波器。仿真结果表明,阶跃阻抗型腔体滤波器不但能够满足滤波器高Q值、低插损、高选择性的要求，而且还可以有效的缩小滤波器的体积，同时也证明了用神经网络优化滤波器设计的可靠性。