摘要：近些年来互联网的迅猛发展,迫使人们必须不断提高现有光纤通信系统的传输容量来满足人们日益增长的高速率业务需求。而光时分复用(OTDM)传输技术是提高光通信系统容量的重要途径。但是随着光传输系统的传输距离和传输速率的提高,色散和非线性的综合效应对系统的性能的影响日益突出。因此,研究超高速传输系统的传输特性,对于提高光纤通信系统的传输能力具有十分重要的意义。本文首先对光纤中的色散效应和非线性效应进行理论分析,通过理论推导和仿真研究它们对光传输系统性能的影响以及色散是如何影响传输系统中非线性效应。仿真结果表明对传输系统中的色散效应进行有效管理,可以使得传输系统的性能最优化。接着,结合实验室国家863项目"160Gbit/s一泵多纤光传输技术研究”,通过optisystem搭建单信道的超高速传输系统,对传输系统中的色散、非线性、色散补偿结构、调制码型、占空比等问题进行研究,分析这些因素对传输特性的影响。先从调制码型出发,对采用RZ码和NRZ码的超高速OTDM传输系统的性能进行比较,仿真结果表明在相同的传输条件下,采用RZ码的传输系统性能要更好。在此基础上,根据实验室采用的色散补偿结构,对预补偿、后补偿和对称中间补偿结构进行性能比较,结果表明应该根据具体的实验环境选择色散补偿结构,对于实验室的项目中所用解复用器件的需求,采用对称中间补偿结构,并且存在一个最佳功率,使得系统的Q值最大。接着,本文对RZ码的占空比进行了研究,仿真结果表明对于无啁啾高斯脉冲的最佳占空比为0.19。在此基础上研究了初始啁啾对传输性能的影响,发现对于采用RZ码的160Gbit/s的超高速OTDM系统,初始啁啾的引入会降低系统的性能。最后比较了高斯脉冲和双曲正割脉冲这两种不同波型对系统传输性能的影响,仿真结果表明对于不同的波型存在不同的最佳占空比,高斯脉冲更适合160Gbit/s超高速OTDM系统进行传输,在相同传输条件下,其Q值更大。通过对仿真结果与实验结果进行对比分析,验证了仿真结果的正确性。