光子晶体概念自提出以来,得到了国内外学者的广泛关注。这是由于其独特周期结构性质,使其具有了光子带隙,间接有了操控光波的能力:利用带隙产生光子局域并控制电磁波自发辐射。这一特性使它具有较强的实际应用前景,光学材料中的非线性效应具有非常广泛的应用背景。因此,利用非线性光子晶体产生非线性效应也是重要的研究方向之一。本文正是在这一大背景下,考虑介质的非线性,研究光子晶体结构中非线性光学特性的产生和增强及结构最优设计问题。本文的研究工作以Maxwell方程组为理论基础,利用物质方程和非线性极化来建立非线性光学效应的数学模型,进而研究非线性光子晶体中的若干非线性光学效应问题。利用有限元理论和方法研究了光子晶体的非线性效应问题,设计了基于固定点迭代的高效求解算法,解决现有方法收敛速度慢甚至发散的问题。本文研究工作主要涉及光子晶体结构中二次谐波、三次谐波等光学效应的若干物理问题的限元模型构造、有限元离散格式的设计、有限元误差理论分析、高效算法的设计、算法的实现、结果的分析、光子晶体结构的设计研究等。本文重点研究了光子晶体中的非线性光学效应,分别对二阶非线性极化X(2)过程中的二倍频产生二次谐波;X(2)过程中的二倍频、和频、差频耦合产生三次谐波;三阶非线性极化X(3)过程中的三倍频产生三次谐波等做了详细的理论研究并给出了相应的光子晶体优化结构。对于一维非线性光子晶体结构,首先基于各类非线性问题抽象出非线性效应的数学模型,进而建立相应的光子晶体数值分析模型,利用固定点迭代方法、连续性方法等设计高效的有限元求解算法。其次,构建了非线性光子晶体光学效应优化的数学模型,利用高效数值算法设计了增强光子晶体非线性光学效应的材料结构。由于光子晶体具有光子禁带,利用带边相位匹配技术,可显著提高非线性效应的转换效率;同时利用光子晶体的缺陷模也可增强结构的非线性效应。我们利用该技术可设计产生较高非线性转换效率的光子晶体结构,进而设计了高效数值算法,并通过数值算例验证了设计新算法的正确性及收敛效果。本文还对光子晶体的另一广泛应用——光子晶体弯曲波导——进行了建模及其优化。对120°以及60°弯曲波导进行建模,并针对两种弯曲角度数值上分别设计了高透低损、宽频带的高效光子晶体弯曲波导。通过在硅基板上腐刻圆形空气孔来获得光子晶体波导,并对空气孔形状、大小、位置调整来优化波导效率,进而获得了在1550nm波长附近的宽频带、高透射低损耗的光子晶体波导结构。本文所有数值实验结果均验证了我们设计新算法的正确性,同时也表明新算法具有较快的收敛速度。这些都可为实验研究和应用设计提供参考、帮助、指导。