近些年,随着信息业务容量持续增长,进而通信系统的容量需求也不断提高。100G规模商用的进程已经开始。随着模数转换(ADC)、数字信号处理(DSP)、光器件制造等技术的发展,相干光通信重新成为研究热点。数字相干光通信是100G技术的重要支撑,也是未来光通信的必然发展道路。通过结合相干检测和DSP技术,数字相干光通信可将载波相位恢复、偏振跟踪等工作在电域中实现,突破了传统模拟相干光通信的障碍。相干光通信系统中,光源、发送端和接收端是三个重要组成部分。对于光源,要求光谱线宽窄、频率稳定度高,当前器件技术已经很好地达到该要求,但如何测量窄线宽激光器的线宽并使测量系统集成化是有待解决的问题。对于发送端,可通过外调制技术完成调制工作,广泛使用基于马赫-曾德尔调制器(MZM)的IQ调制器来实现高阶调制格式,但MZM在使用过程中需要稳定控制偏置点以保持良好的调制效果。对于接收端,可采用平衡接收技术、DSP技术等完成解调、补偿传输损伤等功能。此外,前向纠错编码(FEC)技术可以很好地抑制信道损伤,因此已被广泛应用在相干光通信系统中,相应的需要高速可靠的编译码器,在接收端有译码器。光源、发送端、接收端这三部分有各自需要达到的要求及瓶颈问题,因此每一项解决问题的关键技术都具有重要的研究意义。本论文围绕高速相干光通信系统中的关键技术,特别是高速相干光通信系统中发射端的关键技术开展了深入系统的理论和实验研究。本论文的主要创新点和研究成果包括：1.提出并实现了改进的延时自外差窄线宽半导体激光器线宽测量系统。该测量系统以单激光器延时自外差法为基础,通过引入光学环形器和法拉第旋转反射镜,使得测量所需的延时光纤长度减半,有效地减小了系统所占体积,提高了系统集成度。利用该测量系统成功地对500kHz线宽的半导体激光器进行了测量。该测量系统适用于测量线宽大于20kHz的半导体激光器,调整系统中延时光纤长度可测量线宽更窄的半导体激光器。2.提出了一种新型的适用于铌酸锂MZM的偏置点稳定控制技术。该技术中通过监测MZM输出光信号的平均光功率对偏置点漂移进行初步判断,再根据MZM输出光信号平均光功率的一阶与二阶导数之间的比值确定漂移的真实性,在漂移确实发生后判断出漂移方向,进而可以相应地调整偏置电压,达到对MZM偏置点稳定控制的目的。理论研究表明,该技术可以将MZM的偏置点稳定控制在传输响应曲线上任一位置,可适用于多种调制格式,与调制速率无关。3.基于所提出的新型MZM偏置点稳定控制技术,实现了MZM偏置点稳定控制反馈系统。搭建了实验测试系统,通过测试对反馈系统进行了功能验证和性能评估。实验测试结果表明,利用所提出的新型技术,能够正确地实现对MZM的偏置点进行稳定控制,偏置点可为传输响应曲线上任一位置,并且MZM输出光信号平均光功率的波动被控制在±4%之内。在调制速率为10Gbit/s,调制格式为非归零开关键控(NRZ-OOK)的背靠背系统测试中,若不包含偏置点稳定控制反馈系统,误码率会从10-9级别恶化到10-2级别,而包含偏置点稳定控制反馈系统后,误码率可以保持在10-9级别,很好地保持了系统性能。4.理论分析了差分相位监测器的工作原理,结果表明差分相位监测器可用于对调制光信号进行实时相位监测,且适用于各种进行相位调制的调制格式。基于差分相位监测器,提出了适用于IQ调制器的基于相位监测的偏置点稳定控制技术。理论研究表明,偏置点漂移现象会影响调制光信号的相位,利用差分相位监测器来进行实时相位监测,便可根据相位误差来分析偏置点漂移程度,进而可以通过反馈系统对IQ调制器的偏置点进行稳定控制。5.设计了集成IQ发射机。集成IQ发射机采用了一体化解决方案,使调制与控制有效结合,硬件与软件有效集成。在实现方案中,硬件部分集成了调制与控制需要的各器件、模块、电路,并进行了模块化的设计,重点设计了增益控制模块、偏置控制模块和控制处理单元等部分；软件部分研发了配套的上层控制软件,可设置控制参量并监控集成IQ发射机的工作状态。该集成IQ发射机采用外调制方式,支持高阶调制格式,调制速率最高可达22.5GBaud,并拥有丰富的、友好的、便捷的人机操控接口,具备自动进行偏置点稳定控制的功能。6.独立完成了集成IQ发射机样机的研制工作,包括硬件设计与调试,软件编写等。搭建了实验测试平台,利用信号分析仪和基于数字相干技术的光调制信号分析仪,对样机进行了时域测试,验证了其功能并评估了其性能。测试时的调制格式为QPSK,并利用光调制信号分析仪得到了背靠背系统的指标。当调制速率为10GBaud时,测试结果显示,该样机正确地调制出了10GBaud的QPSK信号,EVM为9%,背靠背系统无误码。当调制速率提高到22.5GBaud时,测试结果显示,该样机则正确地调制出了22.5GBaud的QPSK信号,EVM为1l%,背靠背系统也无误码。测试结果还显示,样机的信号损伤较小。7.提出并验证了一种简单有效的四环搜索算法,可计算π旋转低密度奇偶校验(LDPC)码校验矩阵中四环(Girth-4)的个数。利用该算法,经过分析比较,给出了几组索引(Key),使得利用这几组索引构造的π旋转LDPC码,其校验矩阵中不会存在四环,进而提升该π旋转LDPC码的性能。此外,基于对π旋转LDPC码编码器硬件实现方式的研究分析,在硬件上实现了π旋转LDPC码编码器。测试结果显示,该硬件编码器正确地完成了π旋转LDPC码编码功能。8.研究分析了LDPC码的译码算法,利用DSP芯片实现了基于硬判决的BF算法译码器和基于软判决的LLR BP算法译码器,并比较了两种译码器的性能。测试结果表明,LLR BP算法译码器性能优于BF算法译码器,该结论与理论分析结果一致。