随着互联网行业的发展,多媒体等数据业务的不断出现,人们对通信系统传输能力和效率有了更高的要求。偏分复用技术(Polarization Division Multiplexing)能够将光纤传输系统的频谱效率提高一倍,而且不会大幅增加系统复杂度,因此成为提高光纤通信系统传输容量的重要技术之一。目前100Gb/s及更高速率的光纤传输实验系统基本采用偏分复用与高阶调制码型相结合的方案以满足传输速率的要求。偏分复用技术拥有巨大的应用潜力,但在偏分复用信号的接收技术方面还存在一些的问题。由于传输过程中光信号的偏振态无法保持不变,在接收端我们需要有针对性地设计出自适应的解调模块,该模块不仅能够检测出输光纤链路中信号的偏振态变化,同时还能够调整输入光信号的偏振态,消除信号间串扰,实现偏分解复用。对于100Gb/s以上的高速光纤通信系统,偏振相关损耗(Polarization Dependent Loss, PDL)也是影响传输性能的重要因素之一,因此还需要分析讨论偏振相关损耗对偏分复用系统的影响。本文利用偏振光相关理论,将琼斯矢量和斯托克斯矢量相结合,推导出来偏分复用系统信道串扰的理论模型,设计了基于射频功率检测的偏分解复用方案,建立了2×50Gb/s偏分复用光纤传输系统仿真平台,验证了偏分解复用方案的效果。结果表明：该方案能够有效消除信道串扰,改善系统性能。在此基础上研究了偏振相关损耗,仿真了其对偏分复用系统的影响,并从理论上进行了分析讨论。本文主要工作如下：1)利用偏振光的琼斯矢量和斯托克斯矢量研究光纤链路中正交偏振光的变化情况,通过理论推导得到了光纤链路中信道串扰的传输矩阵。2)理论分析了基于功率差的偏分解复用方案的工作原理及存在的问题；提出了基于射频功率检测的偏分解复用方案。详细描述了偏振解复用模块,包括偏振控制器、偏振控制算法以及相关软硬件结构,并分析了模块的工作原理和性能。3)利用matlab和Optisystem软件建立了2×50Gb/s偏分复用光纤传输系统,并仿真验证了偏振解复用模块的效果。4)讨论了偏振相关损耗对偏分复用系统的影响,给出了偏振相关损耗的理论模型,并将其应用于2×50Gb/s偏分复用光纤传输系统进行实验验证。