随着社会信息化的不断发展,高速率高质量数据业务的增加对传输系统容量提出了新的要求,需要100Gb/s传输技术支撑的下一代干线承载网络的需求已初现端倪。近年来在诸多新型超高速光传输技术中,基于电域信号处理技术的偏振复用相干检测光纤传输系统,一方面利用光偏振复用及多进制调制技术有效提高了频谱利用率；另一方面利用光相干解调方式替代传统的直接检测方式,由于保留了光信号的幅度和相位信息从而可以在电域进行灵活动态的数字去损伤、解复用处理,因此获得了普遍关注并成为光通信领域的研究热点之一本论文在国家863计划课题“100Gb/s相干光传输关键技术研究(2009AA01Z221)”资助下,对NRZ-QPSK调制方式单波长100Gb/s偏振复用相干光传输系统展开研究,对系统基于光相干检测的数字信号处理算法进行建模仿真及实现方案设计。论文主要工作包括：一、深入研究了100Gb/s PM-NRZ-QPSK相干光传输系统的工作原理,建立了相干光接收传输系统的实验仿真模型,进行了PM-QPSK接收机的Matlab离线处理仿真平台总体设计。二、研究设计了基于CMA算法的综合补偿光纤CD(色度色散)、PMD(偏振模色散)及偏振解复用的数字信号处理均衡方案。分析对比了CMA和LMS两种主流的均衡算法,通过系统仿真考察了CMA算法关键参数和光纤信道特性等对系统传输系统性能的影响,得出了对100Gb/s PM-QPSK光纤传输系统设计具有参考价值的相关结论。三、分析了传统CMA算法存在的固有缺陷,提出了基于代价函数分离和初始化条件重置的两种改进算法,并仿真验证了基于代价函数分离的改进CMA算法能够同时实现盲均衡与补偿相位损伤,基于初始化条件重置的误码率辅助CMA算法能够解决传统CMA算法可能出现的误收敛问题。四、为减少算法复杂度、降低算法实时性要求,设计了两种并行处理时域均衡方案,并仿真验证了其有效性。