5G时代在2019年正式到来,由于人们对数据量的需求越来越高,对通信系统在各个通信场景中的指标越来越高。在5G基站将大规模密集建设的情况下,对未来5G建设中基站之间的无线通信互联,自由空间光通信是一个极具潜力的替代方案。本论文主要研究在自由空间光通信场景下,对BP译码算法作为信道译码算法的优化问题。由于BP译码算法存在短环局限性和信道先验信息局限性,同时由于深度学习的爆发式发展,本课题研究讨论了利用深度学习算法对BP译码算法在自由空间光通信场景中的优化和增强。文章首先在介绍线性分组码中LDPC码的基础上,深入地研究讨论了BP译码算法的原理,并分析BP译码算法的两个局限性。其次,针对BP译码算法的短环局限性介绍一种应对方案。BP译码算法在对应的Tanner图中存在短环时译码性能降低,造成在使用短码长的编码方式时BP译码算法性能下降。本论文介绍了利用深度学习方法改进的BP译码算法:Deep BP算法,用以削弱短环产生的负面影响。文中详细介绍了从BP算法模型映射到Deep BP模型的过程,并通过仿真验证Deep BP译码性能相对于传统的BP译码算法有明显的提升。最后,针对BP译码算法的信道先验信息局限性做出应对方案。自由空间光通信凭借其强大的优势,近些年被广泛的研究并逐渐开始投入使用。由于自由空间光通信中的湍流信道的先验信息难于准确估计,以及BP译码算法的初始化需要信道的先验信息（先验信息局限性）,使得BP译码算法在自由空间光通信中表现不佳。文章先简要介绍自由空间光通信中的湍流信道,并使用Gamma-Gamma信道模拟湍流的闪烁效应。以Gamma-Gamma为仿真信道,提出一种基于深度学习的,不需要信道先验信息的译码算法:Res Net-BP（Deep BP）。通过仿真结果证明方案可行,且相对于BP译码算法有明显的提升。