作为一种典型的全光纤式无源器件,光纤光栅(FBG)具有体积小、易与光纤耦合、损耗小等特点,在光纤通信和传感器领域有着重要应用和广阔前景。因而FBG滤波性能与器件的持续深入研究、优化,对于提升其性能和应用领域、对于更好地服务于光通信与信号处理有着重要意义。目前,虽然FBG的研究已取得一系列的理论和实验成果,但是伴随着新型光信息技术的发展和用户需求的不断增加,其滤波性能和应用面临着许多新的挑战和机遇。本文在已有的研究成果基础上,围绕FBG的新颖滤波性能及特色应用开展工作,大致分为三部分：FBG多信道滤波特性研究、FBG的特殊反射谱的设计、基于FBG的脉冲压缩和脉冲序列生成。在本文研究过程中,先后采用了相位等效、傅里叶变换、传输矩阵法、泰勒级数展开等理论方法和仿真手段。首先,以相位空间的等效性,结合线性啁啾与相移技术,建立频域Talbot效应的通用化相位条件,以混合技术达到多信道密集化的效果；运用傅里叶变换法建立光栅折射率调制与反射谱之间的关联,设计得到余弦、二次函数型、直角梯形特殊反射谱；在上述设计结果的基础上,采用传输矩阵法对方案和性能进行验证,并为FBG在信号生成领域的应用提供了理论指导。其次,利用泰勒级数展开法分析光相位调制的频率啁啾特性,而后提出以高阶色散补偿(比如二阶、四阶色散)方案来补偿频率啁啾,实现脉冲压缩和生成。本文的主要取得的成果如下：新型FBG滤波特性研究,集中在多功能型多信道滤波器、具有特殊函数型响应的光滤波器两个方向。推导得到通用化相位条件作为混合技术的基础；由于在通用化相位条件中,啁啾系数和相移对相位条件的贡献是等效的,可以通过啁啾系数和相移的不同排列来设计多信道滤波器,实现不同的信道间隔、色散补偿值。并且,可通过动态调节插入的相移值来实现可调色散补偿器。此后,基于对折射率调制的傅里叶变换分析,设计了具有特殊幅频响应、时延响应的多种FBG。特殊幅频响应包括非对称斜率三角形,二次函数型和四次函数型,指数函数型,直角梯形；特殊时延响应包括：线性、二次函数型、三次函数型,甚至可以拓展到更为复杂的形状。而后,基于传输矩阵法对滤波性能进行仿真验证,所获得结果和理论预期基本一致,达到了预期的效果。此类光栅可应用于高阶色散补偿、微波信号光子学产生、光脉冲信号生成、以及光电传感与解调中。结合相位调制及啁啾FBG,提出并设计了多倍频(二倍频、四倍频等)重复速率的光脉冲序列生成方案。即一束光经相位调制后被分解为具有正交偏振态的两路信号,分别从相反方向注入一个啁啾光纤光栅的两端,由于干涉效应,奇数阶边带被消除,产生了一个具有偶数阶边带的归零码脉冲序列,生成两倍频重复速率归零码脉冲序列,其脉冲占空比为33%。进一步地,利用正弦信号调制线性偏振光,其偏振角相对于偏振调制器的主轴成45。；该信号输入到啁啾FBG,反射光经过偏振分束器将产生四倍频重复速率的脉冲序列。基于相位调制和高阶色散补偿的光脉冲压缩与生成。针对外光相位调制的频率啁啾特性进行解析分析,对被调制光同时进行二阶色散和四阶色散补偿,被调制光的频率啁啾在一个相对更大的带宽中被补偿,有效地实现了对光脉冲的压缩,且具有更小的时间-带宽积和更大的峰值功率。在此基础上,基于重构-等效啁啾理论,设计了一个包含二阶色散和四阶色散补偿能力的SFBG来实施脉冲压缩。仿真结果表明,使用所设计的SFBG能够实现高阶色散补偿,压缩光脉冲的时间-带宽积为0.79。