光波导是一种能将光波局域在其内部或其表面有限区域附近，使得光波沿确定方向传播的几何结构。近年来，随着集成光学的发展，非线性光波导集成器件因其重要的学术意义和广泛的应用前景，正引起人们越来越多的关注。本论文主要研究了铌酸锂、钽酸锂平面介质波导的制备工艺以及其中的非线性光学效应。利用退火质子交换工艺制备了LiTaO3、LiNbO3平面波导，用有限元算法数值分析了其模场分布和折射率分布特性;从理论上讨论了准周期和双周期结构LiTaO3平面波导的非线性频率转换，给出了获得高效三次谐波转换效率的优化条件;首次在实验上观察到了平面LiNbO3波导中基于模式耦合的(C)erenkov和频辐射效应。其主要内容分别简单介绍如下:　　第1章作为前言，介绍了非线性光波导集成技术的意义，介绍了光波导中实现非线性光学频率转换的方法，如模式匹配、准相位匹配以及(C)erenkov位相匹配等。阐述本论文工作的目的和意义。　　第2章在回顾光波导中光传播的射线光学理论和电磁场理论的基础上，勾画了波导中的光线传播图像，推导了光波导中传播常数、模场分布等参数，为以下各章打下理论基础。　　第3章介绍平面波导的制备工艺及其性质。以苯甲酸为质子源用质子交换的方法制备出z切的LiTaO3、LiNbO3平面波导，并进行高温退火处理以改善其光学性能。利用棱镜耦合仪对波导进行表征，得到了不同制备条件下波导的基本参数（如模折射率、波导厚度等），从中总结得出波导制备工艺的经验参数。　　第4章先模拟出LiTaO3平面波导的折射率分布图，然后采用有限元算法计算出在波长为λ=1.064μm，0.532μm和0.355μm下的模折射率及其模场分布。在此基础上分析了双周期、准周期结构的LiTaO3平面波导中的非线性频率转换，讨论了退火交换时间，相互作用长度，泵浦光功率密度，以及超晶格结构参数对三倍频效率的影响，为实验上设计波导结构以实现高效率的三次谐波产生提供了理论指导。　　第5章介绍了我们在实验上观察到的多模平面波导中的(C)erenkov辐射效应。在平面波导中，我们观察到处于同一阶模(即具备相同传播常数)的基波光产生的(C)erenkov倍频辐射效应，也首次观察到不同阶模式（即传播常数不相同）的基波光相互作用产生的(C)erenkov和频辐射效应;同时发现了弹性散射光参与的(C)erenkov倍频及和频辐射产生的弧线。理论分析和数值模拟结果与实验现象非常吻合。　　第6章对全文进行总结。