中红外波段在光通信、工业和环境监测、医学诊断和红外光谱学等领域有着巨大的应用前景。在这些应用中,中红外波转换具有重要意义。和传统的非线性材料相比,硅基波导具有更好的集成度和更高的非线性系数,因此本论文系统研究了中红外高非线性波导的设计以及波长转换的实现方法。论文的主要内容包括:一、建立了适用于硅基石墨烯复合波导结构的光波非线性传输矢量理论模型。在不满足弱导近似的硅基石墨烯复合非线性波导中,基于标量模型的光场传输分析将存在较大误差。本论文根据入射光场的频谱宽度、脉冲宽度以及非线性介质的响应速度等条件,得到了极化强度的时域和傅里叶频域矢量表达形式;综合考虑了波导中线性和非线性损耗、自由载流子效应以及非线性相移等效应,给出了微扰场的矢量表达形式,并利用洛伦兹互易定理,建立了波导中微扰场和非微扰场之间的矢量关系;不同的导模通过色散和非线性过程相互耦合,结合极化强度的表达式展开线性和非线性微扰项,得到了复振幅耦合波方程。二、近中红外波段石墨烯线性和非线性光学特性的调节。对比分析石墨烯线性和非线性电导率,发现石墨烯的非线性克尔效应在三光子共振吸收频率处（hω≈2|μc|）的响应最强烈,此处石墨烯的线性吸收也处于低损耗窗口。石墨烯的费米能级（亦即化学电势）和载流子浓度相关,可以通过化学掺杂和施加门电压改变石墨烯的化学电势,进而调节石墨烯的光学性质,使目标波长处石墨烯的非线性响应最强且损耗最小。三、设计了两种高非线性石墨烯复合波导:石墨烯包覆拉锥光纤和石墨烯硅基复合波导。在近中红外波段,对两种复合波导的非线性性能进行了优化设计,通过调整其结构参数使其非线性系数最大且损耗最小,并仿真分析了波长转换的效率、带宽等特性。提出了适用于波导结构中线性和非线性损耗都比较明显的品质因数（FOM）定义,并利用该定义对所设计波导的综合非线性性能进行评价。在纤芯直径为0.736μm、长度为34.4μm的石墨烯包覆拉锥光纤中,当泵浦光波长为1550nm、脉冲峰值功率为10W时,仿真计算得到的转换效率为-38.07dB,相应的3 dB带宽为430nm。在长度仅为几十微米的硅基石墨烯复合波导中,当连续光泵浦功率为0.5 W时,简并四波混频的转换效率高达-18.5dB。在1.3～2.3μm的波段内,调节复合波导的几何尺寸能够使转换效率保持平坦,而且相应的3dB带宽可以达到40～110nm。四、在硅基波导中基于简并四波混频效应实验实现了中红外波段的波长转换。在中红外1.95μm波长附近,测试了不同入射泵浦光功率和不同信号光波长条件下的四波混频效应,得到的中红外波长转换效率约为-51 dB。