自由空间光通信（Free Space Optical Communication,FSOC）系统容易受到大气湍流的影响,导致传输的光束产生波前畸变,影响通信质量,因此研究如何更好地补偿波前畸变对FSOC系统具有重大意义。无波前传感自适应光学（Wavefront Sensorless Adaptive Optics,WFS-less AO）是当下可以有效校正波前畸变的技术之一,它将成像清晰度或者接收光强等系统性能指标作为控制算法的目标函数,以波前校正器所需的控制信号作为优化参数,通过迭代的方式对目标函数进行优化以实现对波前畸变的有效校正。在WFS-less AO系统中,校正算法起着举足轻重的作用,其直接影响系统校正波前畸变的效果和性能,因此本文开展了WFS-less AO技术中波前畸变校正算法的研究,主要研究内容及成果如下:首先,针对随机并行梯度下降（Stochastic Parallel Gradient Descent,SPGD）算法及其改进算法收敛速度慢、迭代过程中容易出现振荡而导致算法收敛精度降低等问题,提出一种基于Ada Belief优化器的新型SPGD算法,应用于WFS-less AO技术中校正波前畸变。该算法将深度学习中Ada Belief优化器的一阶动量和二阶动量集成到SPGD算法中以提高算法的收敛速度,并使得算法在湍流强度变化时能够自适应地调整增益系数。除此之外,该算法以光束质量评价指标作为参数,对算法的实际增益系数进行自适应动态裁剪,保证算法的迭代稳定性。仿真结果表明,所提算法能对不同湍流强度下的波前畸变实现有效校正。此外,与其它改进算法以及传统SPGD算法相比,所提算法有更快的收敛速度,且在稳定性和参数调节方面也具有一定的优越性。其次,针对传统鲸鱼优化算法（Whale Optimization Algorithm,WOA）存在的收敛速度缓慢、容易陷入局部最优问题,提出一种基于Logistic混沌映射和Levy飞行的新型WOA,应用于WFS-less AO技术中校正波前畸变。该算法采用Logistic混沌映射生成的混沌序列初始化种群位置,保证初始种群的多样性,进而提高算法的收敛精度和收敛速度。此外,该算法利用Levy飞行策略代替WOA的螺旋轨迹策略,避免WOA在进行局部搜索时陷入局部最优,提高了算法的寻优能力。仿真结果表明,改进型WOA不仅收敛精度高于传统WOA和粒子群优化算法（Particle Swarm Optimization,PSO）,而且收敛速度也要快于传统WOA、PSO算法。