随着信息社会的不断推进,人们对高速率、大容量通信的需求也在增加,而卫星微波通信的带宽限制和光纤通信的“最后一公里”问题却一直困扰着人们。为此,自由空间光通信(Free space Optical Communication,FSO)开始受到重视,正成为获取、传输高速率和大容量空间信息的重要技术。但是,大气信道中的大气湍流降低了通信系统的传输可靠性,通信质量容易受到限制。研究大气湍流的抑制技术,无疑具有重要的研究价值和应用前景。当前,数字信号处理技术(Digital Signal Processing, DSP)也在飞速发展,新的技术在空间光通信领域得到应用,开创了新的研究方向。本文采用了支持向量机(Support Vector Machine, SVM)算法对空间光通信系统的数字仿真信号进行数字信号处理,达到抑制大气湍流影响和恢复原始传输信号的目的,主要内容如下：(1)基于空间光通信系统模型,简要介绍了大气湍流的基本理论和激光束的大气信道传输机理,为后续的大气湍流数值仿真和FSO系统仿真打下了基础。(2)应用分布傅里叶相位屏的方法模拟大气湍流。基于谱反演法,通过仿真软件生成具有大气湍流特性的随机相位屏。再采用分布傅里叶相位屏的仿真方法,通过在激光束传输路径上叠加多个随机相位屏的方式,模拟了特定条件下的激光束大气湍流传输。为了弥补该方法在模拟低频成分方面的不足之处,我们也使用了次谐波补偿的方法来进行低频补偿,进一步提高仿真精确度。(3)基于大气湍流信道的缓变化(毫秒量级)特点,本文提出了一种基于SVM的大块分组检测方法。分组数据块的大小能达到10万bit量级,甚至更大,与FSO系统的通信速率成正比。相比于传统检测方法,SVM方案不仅独立于信道的湍流条件信息和接收信号衰落模型,也不需要任何的先验信息或者启发式假设。仿真结果表明,SVM算法是一种有效抑制大气湍流的DSP方法,并且在较大接收孔径的情况下能够接近理论最佳检测。最后,我们进一步结合了空间分集技术,提出了SVM与MIMO结合的大气湍流抑制方案,通过数值仿真证明了该方案的性能。