自上个世纪90年代开始，波导中的非线性频率转换受到重视，基于二阶和三阶非线性原理的频率转换已经引发了大量的研究，这种频率转换在很多方面都有所应用，例如全光网络的波长转换器、可调谐光频梳、产生红外光光源、全光频率编码二进制加法器以及生成高纯度纠缠态光子对等。本论文提出了一种通过增加模式间的空间重叠面积来提高波导频率转换效率的方法，设计了三种增加空间重叠面积的波导结构，并通过仿真对其进行验证。　　本论文首先从理论上分析了影响基于模间相位匹配波导频率转换效率的因素，得到了模式间的空间重叠面积对其的影响。相位匹配是实现波导频率转换的必要条件，本论文选择模间相位匹配是因为它不要求波导材料具有双折射的性质，且制造工艺难度远低于准相位匹配，但它的缺点是模与模之间的空间重叠面积限制了频率的转换效率。于是分析了影响模式间空间重叠面积的因素，提出了通过改变晶体非线性系数来增加模式间空间重叠面积的方法，从而达到提高波导频率转换效率的目的。　　基于模间相位匹配理论分析，本论文设计了三种改变晶体非线性系数的波导，分别是反转型、抑制型和镀膜型波导。反转型波导是通过反转波导部分结构使得该处晶体非线性系数符号发生变化的波导，可以最大程度增加模间重叠面积。抑制型波导利用量子阱混合技术将波导部分结构的晶体非线性系数进行抑制，减小模间的电场抵消现象，从而增加模间重叠面积。镀膜型波导将波导部分结构利用镀膜的方式更换成不具有非线性效应的材料，将晶体非线性系数降为零，是抑制型波导的极限情况。　　最后，本论文利用Matlab软件对反转型、抑制型和镀膜型波导进行了仿真验证，仿真结果显示反转型波导结构在提高频率转换效率方面效果最好，其次是镀膜型波导结构，这说明了增加模式间空间重叠面积的程度越大，波导中的频率转换效率提高程度越高，验证了本文提出的提高波导频率转换效率的方法。利用本论文提出的方法可以大幅度提高基于模间相位匹配波导的频率转换效率，为制造基于模间相位匹配的波导提供了理论指导。