随着光通信技术的发展,基于SOI (silicon-on-insulator)结构的硅纳米线波导因其相对低成本的制作工艺,较高的非线性系数以及对光束的强束缚作用,被广泛应用于非线性光学领域。本论文主要研究了硅纳米线波导中基于四波混频效应的波长转换原理,并对应用于波长转换的硅纳米线波导进行了优化设计。本论文首先简单介绍了硅光子学在光通信领域的发展以及硅纳米线波导中基于四波混频效应的波长转换的研究情况。通过对光波导的基本理论的回顾,本论文简要阐述了分析光波导中模场分布的解析方法和近似方法,以及有限差分法、光束传播方法等常用且有效的数值计算方法。本论文对SOI硅纳米线矩形波导中基于四波混频效应的宽带波长转换进行了理论研究,并分析了波导中损耗以及吸收效应对于相位匹配条件的影响。数值模拟了波导芯层横截面尺寸对于调节波导色散的作用,通过对波导横截面尺寸、波导长度以及泵浦光入射功率的优化设计扩展了波长转换的带宽并在波导的出射端得到了最大波长转换效率。在常规矩形波导结构的基础上,本论文提出了一种多层结构的条形波导。这种波导是在硅材料芯层的上、下两个方向依次沉积折射率一低一高的两层介质膜,形成一种多层结构。论文分析了芯层宽度、高度以及两层覆盖层的厚度四个几何结构参数对零色散波长位置以及色散曲线斜率的影响,经数值计算在理论上提出了对该多层结构条形波导横截面尺寸的优化设计方案,实现了宽带的波长转换。四波混频波长转换的效率与入射信号光相对泵浦光的偏振态有密切关系。而在实际传输系统中,信号光的偏振态总是会因为时间或者传输距离等原因而发生波动,因此研究偏振不敏感的波长转换方案变得十分必要。本论文从理论上研究了在SOI硅纳米线矩形波导中利用具有一定偏振角度的泵浦光实现基于四波混频效应的偏振无关波长转换的方案,并对入射泵浦光的偏振角度进行了优化。更进一步研究了因波导芯层横截面尺寸调整引起TE和TM模式的色散改变对波长转换带宽的影响。