特种光纤及其相关器件在光通信、传感、材料加工和军事等领域有着广泛而重要的应用。本论文在国家高技术研究发展计划（863）项目“稀土掺杂光纤”和“新型特种光纤”的支持下，对掺铒保偏光纤、掺铒微结构光纤和长周期光纤光栅等进行了深入系统的研究，获得以下创新性成果：1．提出一种新型的制作熊猫型掺铒保偏光纤预制棒的方法—U型槽嵌入法，此方法制作工艺简单，易于操作，而且成品率高。采用新型石墨电炉加热的MCVD法结合溶液掺杂技术制作掺铒芯棒。2．综合考虑光纤的截止波长、模场直径、背景损耗和双折射等性能指标，优化设计了熊猫型掺铒保偏光纤的结构参量。据此优化参量，利用U型槽嵌入法试制出高吸收系数高双折射的熊猫型掺铒保偏光纤。所研制的纤芯共掺铋镓铝铒的保偏光纤在波长1530nm处的吸收系数高达58dB／m；外径为125μm的掺铒保偏光纤的双折射达到4.8×10^-4；在1200nm处的背景损耗小于15dB／km。3．给出了一种准确高效的模拟掺铒光纤放大器的算法—改进的平均粒子数反转度迭代算法；采用此算法结合有限元法研究了掺铒微结构光纤放大器的性能。利用有限元法数值分析了空气孔对掺铒微结构光纤的截止波长、重叠积分因子和模场直径的影响。综合考虑掺铒光纤的截止波长、放大器的增益系数和与普通单模光纤的熔接损耗等，优化设计了掺铒微结构光纤的结构参量，并与普通掺铒光纤的性能进行了比较。4．基于标量近似和耦合模理论系统深入地研究了振幅掩模紫外写入的长周期光纤光栅的特性。理论推导出辐射模的归一化系数和长周期光栅中纤芯模与辐射模之间的耦合方程。数值分析了纤芯模与辐射模之间耦合系数的特性，并给出了数值估计外部环境折射率高于石英包层折射率时长周期光栅的谐振波长的方法。利用有限元法结合耦合模理论研究了各结构参量对基于孔辅助导光光纤的长周期光栅的谐振波长和耦合系数的影响。