目前，随着社会的快速发展，光纤通信和传感应用已经成为现代社会不可缺少的一部分。作为光纤通信和传感的核心器件，光纤的性能如：双折射、色散、非线性和损耗是影响其应用于高精度场合的重要因素。传统光纤由于其理论研究已经比较成熟，很难在现有基础上进行进一步的改进提高。因此为提高光纤的性能，寻求新型光纤结构替代现有光纤作为一种重要的手段被广大科研工作者所重视。光子晶体是近些年出现的一种新型结构，其在光纤和滤波器方面有着巨大的潜在应用价值，尤其是光子晶体光纤具有无截止单模传输、高双折射特性、灵活可调的色散特性和高非线性特性，这使得其在未来光集成芯片、光纤器件微型化等方面具有巨大的应用前景，成为各科研机构和高等院校研究的热点。本文围绕光纤系统中高双折射、负色散和多零色散点以及多信道滤波的应用需求进行了深入的研究，建立并分析光子晶体光纤和光子晶体滤波器仿真模型，最终得到高性能光子晶体光纤结构和满足良好传输特性的光子晶体滤波器。本文的主要创新点包括：（1）提出一种混合包层光子晶体光纤结构，并通过有限元分析理论对其光纤特性与传输波长和结构尺寸的关系进行了详细的讨论。所分析的性能包括：模场分布、色散、双折射和非线性等。通过改变光纤包层的结构尺寸，研究其对光纤整体性能的影响，给出各性能与光纤中传输波长的关系，最终得到双折射达103量级且满足两个零色散点要求的光纤结构；（2）提出一种混合纤芯光子晶体光纤结构，建立数值分析模型，重点分析纤芯中空气孔尺寸的改变对光子晶体光纤双折射、色散和非线性特性的影响。给出不同传输波长时光纤的模场分布、不同结构尺寸下光纤特性与传输波长的关系曲线，并进行总结，得到双折射达102量级且满足负色散特性的光子晶体光纤结构；（3）针对光纤通信系统中多信道滤波的应用需求，提出一种基于谐振耦合理论的双通道光子晶体滤波器结构，该结构主要包括谐振腔、耦合柱和滤波通道。本文通过建立光子晶体滤波器的有限元模型，进行滤波器传输特性的仿真。重点分析谐振腔中耦合柱直径的变化对各通道透射系数和滤波波长的影响，最终得到不同耦合柱直径下传输特性与波长的关系曲线，并进行对比分析，得到满足高滤波性能的条件。文章最后对全文进行了总结，指出本文所设计的光子晶体光纤以其优越的性能将对光通信和传感领域中光纤技术的发展具有重要的意义，而光子晶体滤波器将在波分复用系统中具有潜在的应用价值。根据现有的发展现状，本文指出了下一步的研究方向，以及未来应当重点研究的领域。