自由空间光通信（Free Space Optical Communication,FSOC）技术是一种在激光上搭载信息进行传输的新型通信技术,因其拥有宽广的频谱、高速的信息传输速率以及良好的保密性能等优点而受到广泛关注。但是,由于光通信系统以大气为传输媒介,因此光束会受到大气湍流的影响,造成光强起伏、相位畸变等问题,严重影响通信的质量和稳定性。为了解决上述问题,研究人员开发了许多技术,其中,无波前传感自适应光学（Adaptive Optics,AO）技术具有最好的发展前景,通过控制算法对性能指标函数的优化,该技术可以实现对波前畸变的实时校正。在无波前传感AO系统中,校正算法的性能决定了系统对波前畸变的校正能力,因此本文的研究重点是无波前传感AO系统中的波前畸变校正算法的性能优化。针对传统随机并行梯度下降（Stochastic Parallel Gradient Descent,SPGD）算法容易局部收敛的问题,提出一种基于元启发式方法的改进SPGD算法。首先,所提算法建立了类似于元启发式算法的探索和开发机制,通过邻域搜索赋予了算法跳出局部最优区域的能力。其次,为了避免算法对相同性能指标解的重复搜索,建立了记忆内存表来记录迭代过程中产生的次优解,在一定迭代次数内避免算法对局部区域内解的循环搜索。仿真结果表明,相比于传统SPGD算法,本文所提算法在不同湍流条件下都能以较快的速度取得较高的收敛极限。针对粒子群（Particle Swarm Optimization,PSO）算法因粒子间信息交换不充分而在复杂的多峰问题中过早收敛的问题,提出一种基于Sobol序列和纵横交错策略的改进PSO算法。首先,采用Sobol序列对初始粒子进行低差异化分布处理,避免粒子的随机分布而导致的相互重叠和聚集,增强种群的多样性和遍历性。其次,采用纵横交错策略来增强算法探索不同区域的能力,避免陷入局部最优。仿真结果表明,所提算法能有效地提升传统算法的收敛极限,对波前畸变有明显的校正效果。