作为二十世纪最关键的通信技术之一，密集波分复用技术对于光纤通信的发展起到极大的推动作用，并成为目前光纤通信网络扩容的主要技术手段。在该技术中，随着复用波数的增加，光学梳状滤波器渐渐成为光纤通信领域举足轻重的一环。其中，光纤Sagnac环梳状滤波器具有可调谐性、插入损耗低和结构简单的特点，在光纤激光器和光谱测量方面有较广泛的应用。本论文详细介绍了高双折射光纤Sagnac环和光纤光栅Sagnac环的工作原理和基本分析方法，并作为对两种滤波器性能研究的理论基础。针对光纤光栅，采用模式耦合理论分析了均匀光纤光栅的滤波特性，引入传输矩阵法准确地分析和仿真非均匀光纤光栅的滤波特性；针对以上两类光纤Sagnac环，采用琼斯算法理论以分析和仿真其滤波特性。引入对称啁啾光纤光栅以增大光栅的反射带宽。对比均匀光纤光栅Sagnac环，这种光栅结构实现的光纤光栅Sagnac环在透射带宽和通带个数方面有明显提高，也具有通带间隔相等的特点。但是由于光纤光栅的反射率达不到100%，导致透射谱中存在密集调制现象。为了解决这一问题，我们提出了一种置入分段均匀光纤光栅的Sagnac环滤波器方案，该滤波器结构保留了透射带宽大、通道间隔相等、通道个数多等优点，又很好的抑制了密集调制现象。随后，鉴于单个光纤光栅Sagnac环隔离器差的缺陷，重点研究了采用级联方式来实现信道的压窄以及隔离度的加深。深入研究高双折射Sagnac环滤波特性理论，对单级及多级高双折射光纤Sagnac环的滤波特性进行数值模拟，探讨了几个影响因子对梳状谱的影响，并以此作为分析依据设计了一种由Solc-Sagnac环与Lyot-Sagnac环混联结构的窄带梳状滤波器，该滤波器综合了这两类滤波器的优点，能够有效实现梳状谱信道的压窄以及隔离度的加深。最后，对各种不同结构的HBF Sagnac环进行了实验研究，实验结果表明基于二级Lyot-Sagnac环结构能实现窄带滤波的效果。