高速长距离光传输技术是光通信的一项核心技术。目前10Gb/s的光纤传输系统已经商用化,而随着3G、LTE与宽带等业务的快速发展,传输网面临着巨大的挑战。新业务和新应用对通信容量提出了越来越高的要求。40Gb/s光纤传输系统也就顺理成章地成为了当前光纤通信的研究热点。　　 在高速长距离光传输的各项技术中,新型调制格式由于其低成本、升级便捷,得到了越来越多的重视,近年来不断涌现出各种性能优良的新型调制格式。如何选择合适的调制格式亦在实际工程应用中成为必须考虑的问题。　　 本论文针对40G系统中常用的三种新型调制格式进行了理论研究和仿真实验,主要完成了以下几方面工作:　　 1、阐述了高速长距离光传输技术的基本原理,分析了影响传输效率的各式色散以及非线性效应,确立了系统传输性能指标,分析了调制解调的主要器件的基本原理。　　 2、分析了三种新型调制格式的基本原理,建立了各调制格式的仿真模型,得出其频谱与眼图。　　 3、建立了调制格式OSNR容限测试的仿真模型,仿真发现采用平衡接收的部分差分移相键控(P-PDSK)和归零差分正交移相键控(RZ-DQPSK)的OSNR容限比光双二进制码(ODB)要好得多;建立了调制格式色散容限测试的仿真模型,通过仿真发现ODB调制格式的抗色散性能最优,RZ-DQPSK次之,P-PDSK最末;建立了调制格式PMD容限测试的仿真模型,研究发现RZ-DQPSK的抗PMD色散性能最优,P-DPSK与ODB则区别不大;建立了调制格式非线性效应测试的仿真模型,研究发现P-DPSK的抗非线性效应最好,RZ-DQPSK次之,ODB最末。　　 4、采用模糊综合评价法建立了综合评价的数学模型,合理设定评价因素与其比重,经研究发现P-DPSK更符合当前系统升级的要求。　　 最后,对本课题的工作进行了总结,分析了工作中存在的不足,并对将来的工作做了展望。