高速长距离无中继光传输系统与传统高速长距离系统的区别主要在于传输线路中没有需要供电的有源设备（如需要供电的光放大器）。最初，这样的系统是主要用在海缆系统中，在之后的发展和应用中，由于无中继系统可以应用在雪山，沙漠，原始森林，沼泽，湖泊等地理和气候复杂（高压电力系统），供电线路短缺的地方，而且建设和维护成本非常低，所以也在陆地光纤通信中也有非常重要的应用。本文对提升长距离无中继光传输系统性能的调制格式技术、非线性抑制技术、拉曼放大技术和遥泵放大器（ROPA）技术进行了理论分析和仿真研究，设计了不同结构的无中继系统并分别对其主要参数对系统的影响进行了仿真分析和研究。本文的主要研究内容有：1.研究了MZ调制器的调制机理，仿真实现了各种调制格式的产生和解调，比较各种调制格式的传输性能，得出相位调制格式更适合高速（40Gb/s）长距离无中继系统的结论。2.对光纤中的SBS和SPM效应进行了理论研究，依据理论分析，设计仿真对非线性效应的抑制进行了研究，分析了无中继系统中的非线性效应，选择适合无中继系统的非线性抑制方案。3.对ROPA的特性进行了仿真研究，在此基础上对采用遥泵放大结构的无中继系统进行了理论分析并设计了优化方案进行仿真实现，对于给定跨距的无中继系统，存在最佳EDF长度及其最佳摆放位置使系统性能达到最优。4.研究了拉曼放大的机理，对拉曼放大在无中继系统中的应用方式及相应特点进行了分析，仿真实现了反向泵浦拉曼放大结构的无中继系统，对拉曼泵浦功率和光纤有效面积对系统的影响进行了理论分析和研究。5.仿真实现了采用同时拉曼放大和遥泵放大的系统，对EDF长度、EDF摆放位置、拉曼泵浦功率，光纤有效面积等主要参数的相互影响及优化进行了仿真分析，最后设计了系统的优化设计方案。