光子晶体光纤是由单一材料构成、空气孔横向周期性排列、纵向存在缺陷的二维光子晶体。与传统光纤相比，光子晶体光纤具有结构设计灵活的特点，因此拥有了优越的特性，受到了广泛关注。根据导光机制的不同，光子晶体光纤可以分为全内反射型和光子带隙型光子晶体光纤及同时具有两种导光机制的混合导光型光子晶体光纤。光子晶体光纤传输特性对其结构具有很强的依赖性，因此，研究光子晶体光纤的结构对其传输特性的影响具有重要的现实意义。本文主要研究内容包括：利用全矢量有限元法研究不同包层排列以及结构参数对全内反射型光子晶体光纤的非线性特性和色散特性的影响，研究发现在相同波长处，具有三角晶格包层结构的全内反射型光子晶体光纤在非线性性能上具有更好的表现，通过改变光纤结构参数，还可以很明显地改变光纤的色散特性。在此基础上，我们提出一种包层为三角晶格排列的具有高非线性和色散平坦特性的全内反射型光子晶体光纤，其非线性系数在第一光通信窗口处达0.172m1.w1，并在0.7~0.95m范围内具有色散平坦特性，有利于研究和设计基于光纤非线性效应原理的光器件。本文对混合导光型光子晶体光纤的带隙分布和模场分布进行了理论分析和数值模拟，并研究了光纤色散特性和有效模面积特性与光纤高折射率柱大小、纤芯直径和孔间距之间的变化关系。研究结果表明，通过合理地优化纤芯和包层的结构，本文提出的光纤在1.25-1.60m波长范围内色散变化保持在±1ps/km. nm内，最高为27.24ps/km. nm，在1.550m波长处有效模面积为15.801m2，有效地实现了混合导光型光子晶体光纤在通信波长处的色散平坦特性。本文的研究成果对全内反射型光子晶体光纤和混合导光型光子晶体光纤在全光纤器件和激光器件方面的进一步研究和应用有重要的参考价值。