自由空间光通信采用激光信号作为载体,在远程站点之间提供视距、无线、高带宽的通信链路。在自由空间相干光通信中,大气湍流效应使得光信号产生相位起伏等现象,这严重影响了通信链路的可靠性。自适应光学技术作为抑制大气湍流影响最有前景的技术受到了国内外的关注,在自由空间激光通信、天文成像、光束整形等领域具有广泛的应用。自适应光学技术在很多领域已经取得了巨大的成功,但在消除系统误差等方面仍然需要进行研究。开展自适应光学系统的优化对提高相干光通信系统的性能有重要意义。本文进行了非共光路像差校准的相干光通信的实验研究,主要工作如下:1、根据相干光通信系统的工作原理,推导了中频电流信号的解析表达式。说明了自适应光学系统的各个组成部分及其工作原理,同时介绍了自适应光学系统中的误差分类以及如何消除误差带来的影响。2、针对非共光路像差影响通信系统质量这一问题,采用了随机并行梯度下降（Stochastic Parallel Gradient Descent,SPGD）算法对非共光路像差进行校准。解释了非共光路像差的产生来源,分析了将非共光路像差转换为波前传感器参考点信息的过程,然后分别以耦合进单模光纤的光功率和相干接收系统的中频电压为评价指标设计室内实验系统。实验结果表明,当非共光路像差校准以后,耦合进单模光纤的光功率可以提高12dBm,中频电压可以提高800mV。3、搭建相干光通信系统实验平台完成外场实验。实验结果表明,非共光路像差校准后的自适应光学系统可以有效校正光束的波前畸变,在阴天、晴天和雨天时,当自适应光学系统闭环时,耦合进单模光纤的光功率分别从-41.54dBm、-44.20dBm和-43.72dBm提高到-30.03dBm、-33.41dBm 和-34.60dBm;中频电压峰峰值分别从 200mV、170mV 和 50mV提高到640mV、380mV和260mV;相干接收增益分别提高了 20.3dB/MHz、13.4dB/MHz和 10.05dB/MHz。