随着光纤通信技术的飞速发展,人们对于信息的需求与日俱增,如何尽可能的利用现有光设备,最大限度提升光传输系统容量,提高频谱效率成为光通信的研究热点。本文采用光滤波的方式在发射端进行滤波,目的是进行光谱整形,实现带宽的最小化,减小信道间隔,提高光谱效率。本文针对不同滤波器进行了理论与仿真分析,主要研究成果如下：设计了一种利用动态可调光滤波器提高光纤通信系统光谱效率的有效方案。完成了40Gbit/s OTDM系统的仿真模型搭建,在OTDM系统中对光滤波器进行了仿真分析。详细比较了不同光滤波器作用下信号占用带宽的情况,具体包括矩形滤波器、巴特沃斯滤波器、贝塞尔滤波器、高斯滤波器和梯形滤波器,之后对不同的滤波器性能进行了总结。对OTDM/WDM混合系统进行了仿真实验,研究不同滤波器作用下能够实现的最小信道间隔的情况。滤波器类型不同,带宽不同,能够实现的最小信道间隔也不同。结果显示,在40Gbit/s OTDM信号的WDM系统中,高斯滤波器的性能最好,巴特沃斯和贝塞尔滤波器相比而言不如其他滤波器,仿真结果对改善现有的实验系统和提高光谱效率具有指导意义。