光子晶体光纤呈现出许多传统光纤难以实现的特性,如掺镱光纤的大模面积单模特性、小芯光纤的高非线性、色散可调性、高双折射、空芯光纤的光子带隙等,因而备受关注,成为光电子学和光学领域的研究重点。本文针对光子晶体光纤在光纤激光器、光通信和光纤传感等领域的研究及应用需求,开发其应用潜力,对多种新型光子晶体光纤的设计、制备及传输性能进行深入研究,主要包括：大模面积单模掺镱光子晶体光纤、亚波长空气孔传光的新型空芯光子晶体光纤、高非线性光子晶体光纤、三个和四个零色散波长光子晶体光纤。主要创新成果如下：1.首次对大芯径掺镱光子晶体光纤各种模式有效折射率之间的关系进行了分析,给出了单模传输条件。利用有限元法和有效折射率法,分别对不同纤芯折射率及结构参数的大芯径掺镱光子晶体光纤的各个模式折射率进行了模拟,首次给出了单模传输时纤芯折射率与孔间距、空气填充比、纤芯直径等光纤结构参数所满足的关系。设计出了纤芯直径分别为50μm、100μm/150μm的大芯径单模掺镱光子晶体光纤。在掺镱光子晶体光纤设计、制备过程中,不仅可以调节纤芯材料折射率,还可以通过调节光纤的结构参数,得到大模面积单模传输,为光纤的设计和制备提供新的理论指导。2.传统的化学沉积法很难制备纤芯与包层低折射率差的大芯径光纤,限制了大模面积单模光纤的发展。本文提出了一种制备掺镱光子晶体光纤的新方法,利用溶液掺杂-高温熔炼法制备高掺镱浓度石英玻璃。对光子晶体光纤的拉制工艺、拉制过程中温度场分布进行了研究,拉制出了多种新型光子晶体光纤。用掺镱石英玻璃作为纤芯制备光纤预制棒,拉制出了纤芯直径约为130μm的掺镱光子晶体光纤,对其光谱特性进行了实验测量,分析了其吸收光谱与荧光光谱,实现了良好的激光输出,为稀土掺杂光纤制备提供了新途径。3.提出了一种亚波长空气孔传光的新型空芯光子晶体光纤,利用有限元方法分析了其模场分布、损耗和色散特性随光纤结构参数及波长的变化规律。首次根据光的衍射原理和光子晶体光纤的传输特性,对低折射空气孔传光的物理机理进行了解释。首次得到了亚波长空气孔低损耗、单模传输时,光子晶体光纤结构参数和波长的取值范围。设计出了一种优化的光子晶体光纤结构,其模场集中在纤芯微小空气孔中,限制损耗α=5.9×10-5dB/km。根据所设计的光纤结构参数,制备出了纤芯带有微小空气孔的光子晶体光纤,光在空气孔中高强度、长距离传输,为光与物质相互作用及非线性光学的研究提供了新条件。4.利用分步傅里叶法求解非线性薛定谔方程,得到了光子晶体光纤输出光谱与结构参数及脉冲参数的关系,并进行了实验研究,理论与实验结果一致,阐明了非线性光谱产生的物理原理。首次对光子晶体光纤包层节区的传光特性进行了研究,对比了纤芯与包层节区传光的模场面积、非线性系数和色散特性,得到包层节区具有小纤芯面积、高非线性、双零色散波长的特点。研究了产生色散波的相位匹配特性,理论分析了色散波中心波长随泵浦功率和泵浦波长的变化规律。制备了所设计的光子晶体光纤,实验获得了可见和红外波段均大于300nm的宽带色散波,测量了色散波随泵浦功率和波长的变化情况。实验与理论分析结果一致,为超宽带连续光源和光波长变换的研究提供了新的理论基础。5.首次对具有多个零色散波长光子晶体光纤的相位失配特性进行了理论分析,得到了相位匹配波长随泵浦波长及泵浦功率的变化规律。给出了具有多个零色散波长光纤的相位匹配曲线,分析了不同色散曲线对应的相位匹配波长特点。实验得到了相位匹配的四波混频光谱,其光谱特点与相位匹配理论分析一致。通过合理设计光子晶体光纤结构参数,得到了具有三个零色散波长的单模光纤。对纤芯中心带有一个微小空气孔光子晶体光纤的色散特性进行了分析,获得了具有四个零色散波长的色散曲线。具有多个零色散波长的光纤可以得到色散值极低的超平坦色散曲线。多个零色散波长光纤能产生全新的相位匹配曲线,会出现更多的四波混频波长,可以有效地控制光孤子、超短脉冲的四波混频及共振散射产生的光谱特性。