激光大气传输由于受到大气湍流和热晕的影响，导致光学系统的成像质量下降。为了提高光学系统成像质量，需要使用自适应光学系统对畸变波前进行校正。无波前传感器的自适应光学是自适应光学技术的研究热点之一。基于优化算法的无波前传感器自适应光学能避免传统的波前测量所带来的一系列问题，具有结构简单紧凑的特点。优化算法的效率是影响无波前传感器自适应光学系统性能的关键技术之一。要提高无波前传感器自适应光学系统的性能，需要寻找适合的优化算法。本文在对自适应光学技术进行深入分析研究的基础上，建立了自适应光学系统模型，并对模式波前复原算法进行了详尽的讨论和研究，从而提高了自适应光学系统的波前校正性能。论文完成的主要工作内容如下:1．研究了自适应光学系统入射波前像差，根据光束的线性传输特性，设计了自适应光学仿真系统的控制结构；在此基础上，对波前探测、波前复原及波前校正三个主要过程进行了系统分析和仿真建模。通过对激光大气湍流和热晕的理论分析，数值模拟了激光大气的湍流效应和热晕效应。建立了基于点扩散函数和斯特列尔比的成像质量评价模型。2.建立了一套无波前传感器的自适应光学系统模型，提出了一种基于粒子群算法的模式波前复原算法。该算法用来控制变形镜补偿波前像差。算法首先以一组随机解作为初始种群，以针孔内的光强作为系统性能评价函数，并按照粒子群的进化规则在搜索空间内寻找最优解。结果表明，这种算法能够找到补偿像差所需的变形镜的最优面形。3.为了提高优化算法控制的自适应光学系统的收敛性能，提出一种基于改进粒子群算法的模式波前复原算法。在分析标准粒子群算法的基础上，将变异策略引入到粒子群算法中。算法通过变异策略来保持粒子群的多样性，并且能够加快粒子搜索空间的速度。仿真实验表明改进的粒子群算法可以有效地提高随机像差波前复原的精度。4.提出了基于并行变异粒子群算法的模式波前复原算法。该算法将粒子群算法的内在并行性与并行模型相结合。本文设计了基于主从模型的多核并行模型。实验结果表明，当迭代步数选取合适时，并行变异粒子群算法具有较好的收敛性能。计算机多核仿真实验表明该算法可以减少波前复原过程中寻找最优电压的时间。5.提出了一种基于互信息的模式波前复原算法，并利用该算法建立了一套快速模式波前复原的自适应光学系统。通过研究模式基的波前复原能力和减少波前复原模式基的维数，大幅度地提高了复原速度。实验结果表明，该算法具有较好的校正效果。6.建立了一套基于面向对象技术的61单元自适应光学仿真实验平台。研究了变形镜驱动器的布局和传感器子孔径布局，并且计算了波前复原矩阵；利用模拟大气湍流扰动在激光传输中引入畸变波前像差。最终通过实验测试，分析了自适应光学仿真系统的校正性能，并给出了实验的结果。