高速光通信系统中传输容量的扩大、传输速率的提高以及传输距离的延长都与光纤的损耗、色散和非线性效应紧密相连。随着掺铒光纤放大器的广泛使用，损耗问题基本上得到了解决，色散和非线性效应的影响便成了限制高速光通信系统扩容、提速、扩距的主要因素。因此，如何解决高速光通信系统中色散及非线性效应的影响一直是近几年的研究热点。本文重点研究了色散、非线性效应单独作用以及综合作用对通信系统的影响及解决方案。主要工作如下：1．从麦克斯韦方程组出发，推导得到了光纤中光脉冲传输的非线性薛定谔方程和广义的非线性薛定谔方程。我们基于广义的非线性薛定谔方程编写了能够模拟光脉冲传输的计算机程序，并介绍分步傅立叶方法及数值模拟的程序实现过程。2．结合理论分析和数值仿真分别研究了色散、非线性效应以及色散和非线性效应综合作用对高速光通信的影响。研究结果表明，色散造成脉冲展宽，这对于多信道的高速光通信无疑会引起码间干扰，提高系统的误码率；而非线性效应则致脉冲压缩、频谱展宽，严重影响高速光通信系统的传输质量；当光脉冲在反常色散区传输，色散和非线性效应平衡时将产生一种非常引人注目的现象——光孤子。3．研究了色散、非线性效应以及色散和非线性效应综合作用对高速光通信的影响的解决方案。重点理论分析和数值模拟了光孤子传输的物理特性。讨论了孤子通信的试验情况，并指出了光孤子通信理论上和技术上急需解决的问题。