本论文工作是围绕以下项目展开的:国家重点基础研究发展计划(973计划)项目“新一代通信光电子集成器件及光纤的重要结构工艺创新与基础研究”(项目编号:2003CB314900);教育部科学技术重大研究项目“基于微结构光纤的新一代光通信器件及系统”(项目编号:104046);“高等学校学科创新引智计划”(简称“111计划”)(B07005)。微结构光纤(Microstructure fibers,简称MF)是一种沿光纤轴向存在周期性排列空气孔的特殊光纤,又称光子晶体光纤。与普通光纤相比,它表现出许多优异的特性,如无限单模传输,色散和模场面积高度可控,高双折射等等。这些特性使MF在光通信中具有广阔的应用前景,例如MF可用来扩展光通信的波段,可用于色散补偿、脉冲压缩、短波孤子传输、超宽连续谱发生以及基于MF的各种光纤器件等。本论文对微结构光纤非线性特性的理论和实验展开研究。主要研究内容和创新点如下:1.对超连续谱这种非线性效应进行了理论和实验研究,采用分步傅里叶方法数值仿真了中心波长为800nm的飞秒光脉冲在微结构光纤中的传输情况,并进行了飞秒脉冲在微结构光纤中产生超连续谱的实验。利用具有小正常色散的非线性色散平坦MF和10GHz的皮秒泵浦脉冲,在1.55μm波段产生了谱宽超过70nm的平坦的超连续谱。用光纤光栅实验验证了该超连续谱可以应用于宽带光源。2.利用四波混频耦合振幅方程进行数值分析,研究了微结构光纤的不同相位失配条件下光功率随着距离变化情况。对四波混频在微结构光纤中的产生进行了实验研究。3.对参量放大的参量增益进行优化设计。详细研究了光纤参量放大系统中的增益和带宽与各主要参数如光纤长度、色散斜率、非线性系数、泵浦光功率等的关系。利用改进的有效折射率法,设计了一种能得到高效率的参量放大的色散平坦微结构光纤。理论研究了泵浦损耗对参量增益的影响,进行数值仿真。仿真结果表明,在所设计的色散平坦微结构光纤中可达到83%的泵浦效率。4.理论研究了普通单模光纤中的相位匹配。由此引申到微结构光纤,对微结构光纤数值仿真得到了2种不同泵浦波长下(1550nm和800 nm)的单泵浦放大相位匹配曲线。