由于硅基纳米波导的超微结构和超强光约束特性,使其表现出超强的非线性特性和显著的色散可规划性,因而在业界得到了广泛研究和应用。本论文对超微结构硅基纳米波导中色散和非线性理论及应用进行了详细研究,重点对各种高阶色散和非线性同时作用下超短脉冲在硅基纳米波导中的传输特性、调制不稳定性和超连续谱产生及应用等内容进行了研究；主要研究工作和成果如下：1综述了SOI(silicon-on-insulator)波导的发展状况和非线性特性,在基本的麦克斯韦方程组基础上推导了硅基纳米波导中单脉冲和双光束传输时所满足的非线性传输方程；并采用对称分步傅里叶法和龙哥库塔法相结合对硅基纳米波导中脉冲传输方程进行了数值求解。2系统研究了硅基纳米波导的色散特性,证实了硅基纳米波导色散的可裁剪特性。采用有限元法(finite-element-method, FEM)对不同结构硅基纳米波导的色散进行了计算,全面分析了硅基纳米波导的结构参数对波导色散特性的影响。结果表明,硅基纳米波导中的色散特性随波导结构变化非常敏感,且波导的宽度对波导的色散特性影响更为明显；当波导的高度较小时,硅基纳米波导可在相当大的宽度参数范围内实现零色散。3考虑自由载流子吸收情况下,系统研究了硅基纳米波导中基于自由载流子效应皮秒脉冲整形和飞秒孤子传输；理论分析了脉冲宽度、功率等参数对脉冲传输的影响,并进行了理论分析和数值模拟。4从飞秒脉冲在硅基纳米波导中传输所满足的非线性薛定谔方程出发,考虑硅基纳米波导的线性损耗等因素下,分别研究了单光束自相位调制不稳定性和同向传输双光束交叉相位调制不稳定性。推导了单光束自相位调制和双光束交叉相位调制不稳定性增益谱表达式,论证了各种因素对调制不稳定性的影响,并进行了数值模拟。5研究了飞秒孤子辐射对硅基纳米波导中超连续谱产生的影响,以W=0.8um、H=0.7um结构的条形硅基纳米波导为例,对飞秒孤子脉冲传输时硅基纳米波导中超连续谱产生进行了理论分析和数值模拟。采用对称分步傅里叶法和四阶龙格库塔法相结合对飞秒孤子脉冲在硅基纳米波导中传输所遵循的修正薛定谔方程和速率方程进行联合数值求解。结果表明,孤子辐射效应对超连续谱的谱宽和平坦度有着十分重要的影响,通过合理选取孤子参数,可以实现最短传输距离、最优超连续谱输出。同时,脉冲中心波长应尽可能位于零色散波长附近的反常色散区,以便有效形成高阶孤子传输,且适当选取三阶色散,尽早实现高阶孤子分裂,从而最大限度降低双光子吸收效应对输出超连续谱的影响。提出了基于硅基纳米波导中的超连续谱产生的多载波光源实现方案,并进行了数值模拟；结果表明,该方案能实现波长间隔为25GHz、3dB带宽约220nm、有效通道数约1000个的超连续谱输出,为高密度集成波分复用系统的实现提供了一理想光源解决方案。