相干光通信具有许多优点,其能够将全部光场信息保留到电域,因此可以在电域对光传输过程中的损耗进行补偿,从而降低成本,提高传输质量。并且相干光通信能够与多种高阶调制格式完美契合,极大地提高了传输速率。这些优点使得相干光通信能够达到传统直接探测所不能达到的传输速度,因此其必将成为未来重要的通信方式。本文介绍了基于数字信号处理的相干光通信系统原理。对100Gbps-PM-QPSK相干光通信系统的整体结构进行了介绍,包括发射端和接收端。对于DSP,则针对IQ正交化、时钟恢复、频偏估计、相位补偿这4个模块进行了功能上的介绍且对每一种模块详细叙述了一种或几种算法的原理。针对时钟恢复、频偏估计、相位补偿三个模块进行了仿真,证明了上述算法的可行性。同时发现对于时钟恢复模块,较高的环路滤波器带宽会使系统收敛加快,但是稳定后的精度较差,较低的带宽会使系统稳定后的精度增加但收敛速度减小。对于载波恢复模块,相位和频率漂移相对于符号速率是缓变的这一前提是至关重要的,若不满足这一前提,则会造成算法失效。就激光器的光学性能对相干接收机的影响进行了分析和讨论。对于相干光通信系统,分布式反馈激光器在综合考虑的情况下要优于其他激光器。激光器的线宽的展宽会导致拍频信号的频率分布范围随之增加、中心频率分量的功率降低、拍频信号展宽。上述结果最终会导致信号与噪声的对比度下降、系统性能受到影响。激光器的相对强度噪声会使得系统信噪比不再是随着本振光功率的增加直逼散粒噪声极限,而是先增加后减小,激光器中心频率的漂移范围不得大于ADC带宽,否则会使中频信号丢失。激光器中心频率抖动不得过于剧烈,否则会使后续DSP算法受到影响。分析了由ADC分辨率带来的量化噪声对相干光接收机的影响,通常情况下5位ADC已经能够使的量化误差在可以接受的范围内,继续增加位数所带来的改善并不大。对于基于PSK的相干光接收机来说,ADC带宽在0.3-0.4倍的符号速率时,带宽带来的码间串扰和噪声带的滤除达到一个最优平衡。在上述结论下通过对目前ADC的市场情况进行了分析,发现对于高速相干光通信系统来说,最亟需突破的仍然然是ADC的采样速率。逐次逼近型ADC和时间交错技术的结合成为最合适高速ADC的架构,并分析了在此架构下的一些技术难点。分析了高速相干光通信对于数字信号处理的挑战,主要体现在:算法的延迟和复杂度、硬件的处理速率和延迟、硬件接口带宽、高计算量。并分析了目前主流的数字信号处理实现方式,对于研究来说FPGA是较适合相干光通信数字信号处理的实现的方式,而ASIC则适合大规模的商业生产。