本文对ROF(Radio over Fiber)系统的技术背景和基本原理等进行了研究，然后通过针对信号在ROF系统传输过程中产生的色散问题而进行的一系列理论推导和matlab仿真，发现了色散产生多项同频不同相的信号干涉影响了信号在系统中的传输，最后提出了使用单边带调制的方法来解决这个问题的研究思路。　　传统的振幅调制法调制出的射频信号一般为双边带调制信号，有两个同频的射频信号，在输出端经过探测器后两个信号进行叠加，如果相移量达到180°，输出信号将被完全抵消。因此本文中就讨论如何使用闪耀光纤光栅对双边带信号进行反射或透射来实现单边带调制并且增加滤波效果。闪耀光纤光栅的传输谱中存在着一系列的间距很小的包层模谐振峰，处于较宽的带宽范围内，这些谐振峰的位置可以通过改变光栅的周期或者倾斜角度进行调节，具有良好波长选择性，可以做到很好的波长校准并且有很好的载波抑制比。　　1.本文首先对闪耀光纤光栅进行了研究，运用耦合模理论对光栅的反射特性进行了分析，在matlab中进行了一系列的仿真。重点分析了闪耀光纤光栅的倾斜角度和调制深度对反射特性的影响，作为后边闪耀光纤光栅对ROF系统中信号的传输特性的影响研究的基础。　　2.结合闪耀光纤光栅的反射特性的研究结果，分析了双边带信号经过光栅滤波后的频谱的变化，将滤波后的信号放在ROF系统中进行传输性能的比较，通过对闪耀光纤光栅不同参数条件下的传输性能的比较。结果显示通过调节光栅的倾斜角度、调制深度，结果中的载波抑制比有不同程度的改善。文章中通过将设计后的闪耀光纤光栅放在Optisystem和matlab中进行系统仿真，验证了理论跟实验结果相符。　　3.通过仿真的验证，可以证实可以使用闪耀光纤光栅在ROF系统中完成滤波，从而实现单边带调制后可以达到很好的抑制色散的效果，同时解决了波长校准的问题，明显地提高了ROF系统的传输性能。