模式变换器的设计是微波传输的基本课题，国内外学者研制了各种不同类型的模式变换器，并广泛应用于微波、毫米波设备与电路。波导模式变换器的研究主要是在传统波导如矩形、圆、同轴等波导上进行。1989年，东南大学首次提出了一种新型传输线――圆形槽波导，它有尺寸大、功率容量大、频带宽、损耗低等优点。圆形槽波导与一般的槽波导相比，它具有独有的圆弧形的槽边界，这使得圆形槽波导更适合与圆形接口的器件相连接。但在设计基于圆形槽波导的器件时是经常会遇到圆形槽波导和矩形波导的连接问题，目前这方面的资料较少，根据实际要求，需要设计一个模式变换器将圆形槽波导的主模TE11模直接变换到矩形波导的TE11模，本文提出并优化设计了一种新型的矩形(TE11模)-圆形槽波导(TE11模)模式变换器。本文深入地分析了圆形槽波导，利用矢量有限元方法结合模式展开法由分析N端口波导结问题过渡到两端口的模式变换器。根据理论分析，利用基于有限元法的HFSS软件结合Optimetrics软件分别优化设计了2450MHz和915MHz的矩形－圆－圆形槽波导模式变换器和矩形－圆形槽波导波导模式变换器。最后利用软件针对已有文献中设计的变换器的成品进行优化计算，计算结果与成品的测试结果吻合的很好，甚至更优于原来文献中采用的设计方法，由此验证了软件计算和优化方法的正确性。最后针对915MHz的矩形－圆波导模式变换器进行了截面分析，为变换器的加工提供了方法。