众所周知,微纳尺寸的光子器件可以将光场束缚在亚波长的尺度内,从而有效地增强光与物质的相互作用。非线性光学频率转换技术作为拓展激光工作频谱的关键手段,广泛应用于新光源产生、光学通信、全光计算、光学传感等领域。在微纳尺度或集成光子学范畴内研究高效的非线性光学频率转换是现代光子学领域的研究热点之一。光波导得益于其对光子的独特传导和束缚特性,是光子集成回路的核心器件。随着光波导制备技术与各种光学材料的不断发展,具有多种功能的光学波导,特别是非线性光波导,得到了长足的发展。非线性光波导,继承了传统光波导结构简单、光场束缚能力强、传输损耗低等优点,在发展低能耗、高效率的片上非线性光学器件（如频率转换、相位调制器、光开关等）展示出极好的应用前景。本论文主要研究非线性光波导中光学二倍频的产生与相位匹配问题。由于受到材料色散和模式色散的影响,不同波长的光在波导中的传播速度不同,彼此之间的非线性相互作用不能相干增强,即存在相位不匹配的问题。在光波导中,一般可采用模式色散相位匹配法找到基频光基模与二次谐波高阶模之间的相位匹配点;但由于这两种不同频率的导波模式存在显著的空间分布差异,对应的非线性光学频率转换的有效模式重叠积分较小,极大地限制了非线性转换效率。周期极化的非线性光学晶体波导（如周期极化铌酸锂光学晶体）可补偿频率转换过程中的相位失配量,提供了一种可能的解决方案。而复合波导结构得益于其本身不对称的非线性系数分布,可实现大非线性模式重叠积分下的相位匹配,为实现高效的非线性光学频率转换提供了一种较为简单的解决方案。本论文在复合非线性光波导的理论基础上,提出了一种新型的复合聚合物-铌酸锂光波导结构,在保证足够大模式重叠积分的同时,可实现多种相位匹配条件,有效地降低了非线性频率转换光子器件的制造难度。本论文以光学二倍频为例,通过理论分析非对称复合光波导结构中二阶非线性频率转换的物理过程,基于超模理论归纳得到了一套基于非对称复合光波导结构实现高效非线性频率转换的研究理论,并在复合聚合物-铌酸锂光波导中做了验证。论文主要内容如下:1.从超模理论出发,构建了非对称复合光波导结构的模式耦合理论,探索得到了非对称复合光波导结构中光学二倍频的产生与相位匹配条件。基于光学二倍频产生的非线性光学耦合波方程与复合波导的耦合模方程,建立了复合光波导结构中的光学二倍频转换理论框架,并深入分析了泵浦输入光的相位、电场振幅等因素对光学二倍频产生的影响。2.以复合聚合物-铌酸锂光波导为例,深入研究了光学二倍频的产生与相位匹配条件。通过波导参数的优化,探索得到了两种类型的相位匹配条件,相应的模式重叠积分相比单根铌酸锂光波导增加了6个数量级。在X-cut的铌酸锂体系上,理论结果显示可在TE00-like的偶对称基模（1320 nm）和TE01-like的奇对称基模（660 nm）之间实现相位匹配,且可利用到铌酸锂晶体最大的非线性极化系数d33,估算得到的归一化非线性转换效率高达148%W-1cm-2。此外,还可在TM01-like的奇对称基模（911 nm）和TE01-like的奇对称基模（455.5nm）之间实现相位匹配,可利用到铌酸锂晶体非线性极化系数d31,估算得到的归一化非线性转换效率为9.11%W-1cm-2。本论文研究得到的复合聚合物-铌酸锂光波导中的光学二倍频产生与相位匹配条件,可极大地增加非线性光学模式重叠积分和相应的归一化非线性转换效率,且具有不需刻蚀的制备友好性,相关研究结果将为片上高效非线性频率转换器件的发展提供新的思路。