随着宽带信息网络的快速发展，单信道速率为100Gb/s的波分复用系统已经成为了高速光纤通信研究的主流技术。由于速率的提高，100G系统面临更加严峻的技术挑战，影响系统性能的因素除了损耗与色散，对低速系统影响并不严重的偏振模色散和非线性效应也会使100G WDM系统性能严重劣化。同时，100G系统采用PDM-DQPSK调制方式，因此激光器相位噪声也是造成系统损伤的一个重要因素。本文的主要工作就是通过仿真研究对上述影响性能的因素进行补偿的措施。由于数字信号处理技术的提高，在电域将信道均衡与相位估计技术联合使用能够更好地均衡系统中的色散以及补偿激光器相位噪声，从而提高系统性能，这可以从减小均衡器迭代步长、增大相位噪声容忍度、获得更稳定的误码率以及增加无中继传输距离等方面体现。通过对色散进行在线补偿，使每个跨段存在一定的色散剩余，然后使用电信道均衡器对终端残余色散进行均衡的措施可以有效地抑制非线性效应对系统性能的影响。综合考虑光信噪比增益、电信道均衡器所需最佳均衡长度以及系统在较大平均功率下的性能之后确定，色散在线补偿率为0.6是最优的选择。