目前,由于人们对通信容量需求的急剧增加,高速光纤通信系统的研究吸引了人们极大的关注。光纤通信系统的高速率、大容量可以通过采用复用技术来实现,本文采用偏振复用技术实现单波长80Gbit/s通信速率,同时鉴于差分正交相移相位键控(DQPSK, Differential Quadrature Phase Shift Key)调制码型在传输性能上的优异表现,采用DQPSK的调制格式。首先,从目前高速光纤通信的现状出发,综述了高速光纤通信系统常用的技术方案,重点介绍了偏振复用技术的发展和现状。然后从偏振光的基本理论、偏振器件的工作原理、偏振光在光纤中传输的相关理论等出发,提出了本文偏振复用光纤通信系统的总体结构,详细介绍了系统采用的DQPSK码型的调制和解调方法,论述了系统的误码率性能。最后,分别对传输链路上的串扰损伤对系统性能的影响和采用DQPSK调制码型时的整体系统性能进行了仿真和分析。在对链路性能进行仿真时,讨论了在偏振复用传输链路上色度色散、偏振模色散和偏振相关损耗对系统传输性能的影响。在对偏振复用整体性能进行仿真时,采用DQPSK并联调制方式和平衡接收机的解调方式,给出了在无偏振模色散补偿时系统无中继传输的极限距离,并对比了偏振复用系统和非偏振复用系统在80Gbit/s单波长传输速率时的系统性能。