随着半导体激光器、传输光纤、光探测器、光调制器、光耦合器等的发展,光通信网络已日趋完善,网络容量日益增大。在光通信主干网内,单载波调制比特率正在经历从10 Gbit/s到40 Gbit/s再到100 Gbit/s的进展过程。在商业应用中,光网络由于其卓越的传送能力,已承担起了信息传输的主要任务。但是目前光网络的控制节点还主要依赖于电域的信号处理,光信号处理仍处于实验阶段。相对于电信号处理来说,光信号处理速度快且无需光电/电光转换。随着单信道调制速率的增加,基于电信号处理控制模块的成本、复杂度都在不断增加。跳过光电/电光转换,部分地或者全部地直接采用光信号处理成为了下一代光网络演进的一个重要方向。光学梳状滤波器在光纤光学及微波光子学中都是一个重要的元件。例如,梳状滤波器是多波长激光器中常用的滤波器件。由于均匀展宽效应,多波长掺铒光纤激光器无法在室温下稳定。本文将介绍利用四波混频(FWM, four-wave-mixng)效应均衡各个起振波长之间的能量后所实现的室温下稳定的多波长激光器。在此基础上,本文通过调整梳状滤波器的结构来改变滤波器的滤波频率间隔,在室温下实现了稳定的、波长间隔可调的多波长掺铒光纤激光器。除此之外,梳状滤波器还可用来抑制有理数锁模激光器的低阶模噪声。通过在有理数锁模激光器的出口处加入梳状滤波器,可成功地抑制锁模光纤激光器的低阶模噪声。半导体光放大器(SOA, semiconductor optical amplifier)、高非线性光纤(HNLF, highly nonlinear fiber)以及硅波导线中存在多种光学非线性效应,如自相位调制(SPM, self-phase modulation)、交叉相位调制(XPM, cross-phase moculation)、FWM和非线性偏振旋转(NPR, nonlinear polarization rotation)等。非线性光信号处理是本文研究的重点,如波长组播、波长转换／交换、码型转换／生成、信号再生、时钟恢复、时分解复用、噪声监测等。开关键控(OOK, on-off keying)信号因其码型简单,在当前光通讯网络中的应用最广泛,相关的光信号处理方案也最为完善。针对OOK信号,本文在三个方面进行了研究。一是基于XPM效应实现了连续可调的时钟恢复；二是基于FWM效应实现了伴随有非归零码到归零码码型转换的波长组播；三是基于FWM效应在硅波导中实现了时分解复用功能。二进制相移键控(BPSK, binary phase-shift keying)以及差分相移键控(DPSK, differential phase-shift keying)信号以其高接收灵敏度和高耐非线性退化能力而广受关注。针对DPSK信号本文利用HNLF、SOA和硅波导线展开了一系列的信号处理研究。通过XPM效应,本文实现了DPSK信号的相位再生性宽带波长转换以及高灵敏度相位噪声测量；通过FWM作用,本文在硅波导中实现了DPSK信号的波长转换且首次利用HNLF完成了DPSK信号的波长交换。此外,本文还在实验中通过两级简并FWM效应将商用铌酸锂相位调制器的调制电压减小至原调制电压的四分之一,并理论分析了此方法在高速相位调制中大幅度降低调制电压的潜力。随着通信数据流的增加,各类高级调制格式相继出现。偏振复用技术和高级调制码型可以成倍地提高光通信链路的频谱效率,是100 Gbit/s以太网及更高速以太网传输标准的主流选择。本文也对各种高级编码方式做了一定的探讨。首先,利用偏振复用,用10 Gbit/s的设备产生了20 Gbit/s的偏振复用DPSK信号。其次,利用多进制的相位调制,用10 Gbit/s的设备产生了20 Gbit/s的四进制相移键控(QPSK, quadrature phase-shift keying)信号。最后,利用FWM效应,首次在降低调制电压的前提下,用10 Gbit/s的设备产生了20 Gbit/s的ASK-DPSK信号,且模拟验证了用40 Gbaud/s的设备产生120 Gbit/s的八进制正交振幅调制(8QAM,8-ary quadrature amplitude modulation)信号的可能性。考虑到容量、速度、距离、通信质量、成本等各方面因素,下一代通信网路中将会存在多种调制码型并存的情况。采用不同码型的网络节点间需要进行码型转换。本文利用SOA内部的SPM效应、饱和效应和NPR效应实现了多功能光处理节点。该多功能节点可同时实现OOK到BPSK码型转换、OOK信号消光比提升及OOK数据反转的功能。利用SOA中的XPM、交叉增益和NPR效应完成了偏振无关的OOK到BPSK码型转换、一路OOK到四路BPSK的波长组播式码型转换、一路OOK加一路BPSK到一路QPSK信号的码型转换以及两路独立的OOK到一路QPSK的码型转换。