在当前全球高速信息化发展的背景下,各种新兴业务层出不穷的涌现,如跨国会议、IPTV、云服务等。人们在享受信息化发展为生活带来的便利的同时,也对通信链路的传输容量提出了更高的要求。具有关调查显示,当前人们网络传输容量的需求正在呈指数增长。在过去的时间里,人们为了提升系统容量做出了许多的努力。通信传输系统由电传输,进化为容量更大、性能更优的光纤传输。为了提升单模光纤的容量,各种通信被应用到了光纤链路中,如高阶调制、密集波分复用、相关光通信等。这些技术有效的提升了链路的传输距离以及系统的容量,但是单模光纤的非线性特性决定了其传输容量无法无限提升,目前的单模光纤的传输容量即将达到香农极限。所以,此时需要采用新的技术来增加传输容量,才能满足正在日益增长的传输容量需求。基于模式的两个偏振态的复用技术,可以将链路传输容量在原有基础上增加一倍,且实现简单易于与其它技术相结合,是目前的常用的复用技术。基于多模光纤的模式复用技术,可以利用多个不同的空间模式来进行系统容量提升。此模式复用技术中的各个模式是正交的,所以可以作为独立的信道来进行信号传输。与单模光纤相比,多模光纤具有比较大的场面积,具有很高的非线性容限,所以能承载大容量信号传输。所以基于多模光纤的偏振复用的模式复用传输系统具有研究的价值。然而,由于光纤制造工艺的差异、链路弯曲、连接扭转等等原因,多模光纤中的各个模式之间会发生模式耦合,且由于各个模式在链路中的传输速度不同,导致模式色散的发生。模式耦合与模式色散都会给传输链路中的有用信号带来损伤,所以接收端需要对接收信号进行数字信号处理,对链路中的这种损伤进行补偿。本文采用理论研究和仿真验证的方法,对基于多模光纤的偏振复用模式复用传输系统关键技术进行研究,对多模光纤传输链路进行了分析,以及研究了后端数字信号处理方法。本文的研究内容和主要创新点如下所示:(一)本文对基于多模光纤的偏振复用模式复用传输系统进行了系统设计,对发送端和接收端的关键模块,即偏振复用/解复用模块、模式复用/解复用模块,进行了深入研究。其中包括偏振复用模式复用的理论基础研究,偏振复用及模式复用中涉及的偏振分束器、偏振合束器、模式转换器、模式复用器等关键器件研究等。(二)研究了系统中传输链路上的损伤因子,如模式耦合、模式色散等模间交叉作用对有用信号造成的影响,并基于系统链路分析进行了公式推导,得出系统中传输链路的理论模型,并进行了相关仿真验证。(三)本文对常用自适应算法LMS算法以及RLS算法进行了研究,并通过数值仿真对它们的性能进行了分析。提出了一种自适应步长的RLSCMA算法,此算法相比与RLS或CMA算法具有更快的收敛速度,能够在信道突变的情况下快速跟踪信道,具有较好的性能。(四)基于传输系统的链路分析,研究了接收端数字信号处理方法,其中包括对色度色散进行准静态补偿,以及对模间交叉作用产生的损伤因子的MIMO均衡。本文设计了一种适用于多模多芯光纤的MIMO均衡器,此均衡器基于模间损伤因子与芯间损伤的产生及作用机理不同,而对它们有针对性的进行均衡。此MIMO均衡器对于模芯联合系统,具有更好的均衡效果。