光纤通信系统正在向宽带、大容量的方向发展。密集波分复用技术(DWDM)作为目前干线光纤通信应用的最广泛的方式,也得到了长足的发展。随着传输速率的提高,系统的色散容限急剧降低,同时新型的低损耗传输光纤和光放大器的出现也使得系统从传统的损耗限制转变为色散限制系统。所以对高速密集波分复用系统进行色散补偿,优化系统配置是很有必要的。本文首先介绍了DWDM的研究热点、色散补偿的现实意义,分析了光纤中的色散、非线性效应。并对一些DWDM光纤通信系统的关键因素：一阶色散、色散斜率、交叉相位调制、四波混频对高斯脉冲的影响进行了研究。主要工作是通过色散补偿优化系统的相关参数,设计DWDM系统。在分步傅立叶法的基础上,通过Optisystem软件研究了单段、多段WDM中不同色散补偿方案对系统性能的影响,并对其进行了优化。在单段40Gbit/s16信道DWDM中单通道入纤功率在10-14dBm、色散补偿率在0.99、补偿系数为0.1,单模光纤长度小于120km,脉冲占空比为0.15时系统传输性能最佳。在多段WDM系统中脉冲占空比为0.25,放大器间隔在95-130km时最佳。色散斜率补偿率必须大于0.96。最后在考虑放大器噪声的基础上设计了一个1000km40Gbit/s×16信道DWDM系统。结果表明放大器个数在10到11个时系统性能最优。最后总结了全文工作。本文仿真结果对设计高速、长距离DWDM传输系统具有重要的参考价值。