自由空间光通信（Free Space Optical Communication,FSO）技术以其传输容量大、速率高、安全性好、无频谱限制等优点成为通信领域的研究热点。但由于大气湍流效应的存在,FSO通信系统工作过程中的光信号会受到外界因素影响,使得接收信号具有码间干扰等现象,造成高误码率（Bit Error Rate,BER）,进而影响通信质量。为了抑制大气湍流效应对光通信系统的影响,本文采用了非对称限幅光正交频分复用调制技术（Asymmetrically Clipped Optical Orthogonal Frequency Division Multiplexing,ACO-OFDM）,这种方法也能够有效克服多径效应及信道间干扰。极化码是目前已知的唯一一种可以证明信道容量可达的编码新方案,其编解码复杂度较低,因此将极化码应用于自由空间光通信将有助于改善通信系统性能。然而,传统的极化码译码器存在译码时延高、计算量大等缺陷,深度学习技术能够有效降低译码算法时延和复杂度,并且极化码的译码算法本质上也是分类问题。因此,本文将深度学习技术应用于ACO-OFDM空间光通信系统中的极化码译码,并且与传统译码器性能作比较,具体研究工作如下:首先对大气信道建模,模拟了大气湍流特性的双伽马分布信道模型,得出三种不同湍流强度的信道参数。同时研究了ACO-OFDM技术的特点,其信号为非负实数,满足FSO系统的传输要求,是一种效率较高的单极化OFDM调制方式。在此基础上,搭建了基于极化码的ACO-OFDM FSO系统模型。对于网络结构,本文设计了2种极化码的深度学习译码器,分别基于多层感知器和卷积神经网络,比较在不同湍流强度以及基于4QAM、16QAM、64QAM映射时的误码率,这种译码器可以直接实现解码解调,并将这两种译码器的译码结果与传统的SC、BP译码器性能进行比较。仿真结果表明:在弱中强湍流大气信道下训练的MLP译码器,4QAM、16QAM和64QAM映射条件下的误码率能够达到5×10-7、2×10-6以及0.3左右。其中,4QAM映射时强湍流条件下MLP译码器的性能优于传统的译码器,字符信噪比为20d B时能达到10~4的差距。基于16QAM映射时,MLP译码器在3种湍流条件下的误码率均小于传统译码器,16QAM能达到10~5的差距,64QAM的误码率大小介于2种传统译码器之间。在弱中强湍流大气信道下训练的CNN译码器,在以上3种映射条件下的误码率能下降到6×10-5、0.2以及0.4左右。与MLP译码器类似,4QAM时CNN译码器与传统译码器误码率能达到10~2的差距,16QAM和64QAM的误码率均介于SC、BP译码器之间。比较同种映射条件下不同湍流强度、同种湍流条件下不同映射阶数以及极化码码长对MLP、CNN译码器性能的影响。仿真结果表明,弱湍流大气信道下误码率最小,映射阶数越小误码率越小,MLP、CNN译码器在短码以及中强湍流条件下的译码性能较好。本文提出的基于深度学习的极化码译码器,实现了无导频的ACO-OFDM空间光通信系统中极化码译码和信号解调,具有优越性能和鲁棒性。然而,在弱湍流条件下,基于深度学习技术的极化码译码器性能还需要进一步提升,受极化码码长影响较大,也需在弱中强混合湍流条件下的训练。