社会的信息化,用户对通信带宽需求的迅速增长,推动着作为现代长途干线通信主体的光纤通信向高比特率,大容量的方向发展.如何提高单通路速率到40Gb/s以满足多种业务高速发展的传输容量需求,成为目前国内外业界正在研究和讨论的焦点问题之一.40Gb/s高速信号对色度色散和非线性效应的敏感性更高,该文的主要工作就是集中于色度色散补偿和高速系统中的克尔非线性效应抑制问题的深入研究上.具体包括:1、从色散管理的角度抑制40Gb/s系统的克尔非线性效应.对预补偿和优化残余色散量这两种有利于抑制克尔非线性效应的方法进行了大量的仿真实验,提出了在高速密集波分复用系统中将这两种方法结合从而有效抑制克尔非线性效应的方案.2、对拉曼放大系统中采用色散补偿光纤(DCF)进行色散补偿进行了研究.其中对拉曼放大系统中,DCF放置不同位置上的色散补偿性能进行了比较分析,并对NRZ码和RZ码的传输性能进行了比较,得到不同占空比的RZ码的传输性能,由此得出最佳占空比的存在,并对影响最佳占空比的因素做了一定的分析.3、对可用于动态色散补偿的啁啾光纤光栅(CFBG)的性能评价进行了理论和仿真分析.基于40Gb/s系统平台下,重点研究了啁啾光纤光栅的时延抖动对系统性能的影响.对不同波长在不同的环路数下得到的眼图及引起的功率代价进行了分析,从相位抖动的角度给予了合理的解释.最后,通过仿真具体设计有限冲激响应滤波器(FIR),实现了对啁啾光纤光栅相位抖动的有效抑制.4、对40Gb/s传输系统进行了深入的研究,在前人工作的基础上,着重设计了高速密集波分复用系统(单通道40Gb/s)色散补偿和光放大方案;并且基于实际系统设计的需要,对40×40Gb/s系统进行了详细的仿真及结果分析,另外对80×40Gb/s进行了初步探索,设计了色散补偿方案,并通过系统仿真验证了其补偿效果,为后期工作奠定了基础.