当今社会正处于一个信息时代。在信息时代中,人类的日常活动产生了海量的信息传输需求。作为现代信息社会的基础设施之一,光纤通信系统承担着全球绝大部分的信息传输任务。在过去几十年间,以语音和IP (Internet Protocol)数据为代表的信息传输业务得到了快速的发展。而当下移动互联网,在线高清视频,物联网,工业4.0,虚拟现实等新型多样性业务和应用场景的快速发展,进一步带来了全球IP数据流量的爆炸式增长。为了满足人类社会不断增长的海量信息传输需求,光纤通信系统自诞生起,便一直朝着高速的方向快速演进。在高速光纤通信系统的演进历程中,最近的一个成功案例,便是100G数字相干光通信系统。100G数字相干光通信系统的两大关键技术是相干检测和数字信号处理(DSP)技术。基于相干检测,光场信号所携带的信息可以线性地下转换到电域,这使得高级调制格式的应用和信道损伤的电域补偿成为可行的技术方案。基于DSP技术,光信号所经历的各种信道损伤可以利用DSP算法进行补偿。得益于相干检测和DSP技术所带来的好处,数字相干光通信系统也成为了未来400G/1T等高速光纤通信系统的基础技术方案。因此,数字相干光通信系统的重要性不言而喻。针对高速数字相干光通信系统,开展相关研究具有十分重要的意义。在高速数字相干光通信系统中,光性能监测和均衡技术是两项重要的研究内容。光性能监测主要指对反映光信号性能的一组参数进行监测。常见的光性能参数包括但不限于光信噪比(OSNR),色度色散(CD)和偏振模色散(PMD)等。光性能监测是保障高速光纤通信系统稳定可靠运行的重要技术。均衡技术主要研究的是数字相干光通信系统中用于损伤补偿的各种DSP算法。如上所述,在数字相干光通信系统中,各种信道损伤主要依赖于均衡技术进行补偿。因此,均衡技术是数字相干光通信系统中必不可少的组成部分。而随着诸多新材料和新技术的不断引入,高速数字相干光通信系统仍在不断地向前发展。新的系统参数和系统结构也在不断地涌现。因此,适用于高速数字相干光通信系统的光性能监测和均衡技术是非常有价值的研究问题。本论文围绕高速光纤通信系统中光性能监测与均衡技术的研究这一主题,主要开展了基于DSP技术的光性能监测和均衡技术的研究。本论文的主要工作为:(1)周期性训练序列辅助的带内OSNR监测。本论文提出了一种新的数据辅助的带内OSNR监测方法。这种方法适用于数字相干接收机。该方法利用了具有周期性结构训练序列的周期性,来实现带内信号噪声的功率分离。通过理论分析,证明了该方法对一阶偏振模色散不敏感。通过典型的112 Gb/s PM-QPSK和224 Gb/s PM-16QAM相干光传输仿真系统对该方法进行了仿真验证。结果表明,在监测误差小于1 dB时,该方法的OSNR监测范围约为7～30 dB。理论推导和仿真结果也表明,该方法能够实现高精度OSNR监测,并且能够容忍大量的残留累积CD和一阶PMD。(2)基于数字导频的载波频偏估计。本论文针对相干光传输系统,提出了一种基于数字导频的载波频偏估计方法。有别于常规的导频插入方式,在我们所提出方法中,导频是以一种数字的方式产生的,并且能够用作一个好的载波频偏估计指示器。在数字导频的辅助下,载波频偏估计是通过确定频谱中数字导频的位置实现的。理论推导和仿真结果表明所提出的方法具有宽范围,高精度,调制格式独立,不需要去除调制,和对残留CD和一阶PMD具有高容忍性的优点。(3)数字相干光通信系统中均衡技术的研究。本论文对数字相干光传输系统中的典型DSP算法进行了研究,主要包括CD的时域和频域均衡法,基于恒模算法的偏振解复用算法,基于差分相位的载波频偏估计算法和基于Viterbi-Viterbi相位估计算法的载波相位恢复算法等。此外,本论文基于仿真和实验对数字相干光通信系统中的典型DSP算法进行了验证,并取得了较好的结果。