自适应光学系统(Adaptive optics system,AOS)主要由波前传感器、波前控制器和波前校正器三个部分组成。其中,波前传感器是自适应光学系统的“眼睛”,为AOS校正提供了基准,它的性能决定了AOS的“天花板”高度。目前AOS中最常用的波前传感器是夏克-哈特曼波前传感器(Shack-Hartmann wavefront sensor,SHWFS),但SHWFS在波前重构过程中仅使用子孔径斜率作为特征向量,受到模式耦合和模式混淆误差的影响较大,可重构模式数通常为子孔径数的0.7～0.8倍,远远低于其理论极限值,即子孔径数的2倍。除了SHWFS之外,相位差波前探测技术也是AOS中测量像差的关键技术之一,相位差波前传感器(Phase-diversity wavefront sensor,PDWFS)使用迭代算法建立焦平面图像和离焦平面图像与畸变波前的联系,但算法迭代时间长,运行效率慢,难以满足AOS闭环控制的实时性需求,通常仅用于校正AOS非共光路静态像差或图像后处理等领域。因此,如何在提高波前重构精度的前提下,设计出一种满足AOS实时性要求的波前重构算法,是目前需要解决的问题。本课题将针对传统波前探测技术应用的局限性,探索深度学习算法应用于波前重构的可能,利用深度学习算法强大的拟合能力提高波前重构的精度和实时性。本文的主要研究工作和创新点如下:1.简要分析了基于深度学习的波前重构方法的研究背景及意义,并详细阐述了基于深度学习的波前重构方法的研究现状。简要介绍了卷积神经网络(Convolutional neural network,CNN)的基本原理,深度学习推理加速方案和框架,明确了深度学习应用于波前重构的优势与难点。2.利用Phase-diversity convolutional neural network(PD-CNN)直接从PDWFS的焦平面图像和离焦平面图像中重构了对应的第3～15阶Zernike模式系数,并且PD-CNN的推理速度达到亚毫秒级,该方法将有望打破相位差波前探测技术的应用局限性,推动其作为一种更高性能的波前传感器应用于AOS。3.使用Shack-Hartmann convolutional neural network(SH-CNN)实现了超分辨波前重构方法,即重构模式数超过了SHWFS子孔径数的2倍,该方法充分挖掘子孔径光斑位移、形态等复合特性,减少了斜率法引起的模式混淆和模式耦合误差,提高了波前重构精度。本文基于100单元SHWFS进行了仿真实验,利用SH-CNN从SHWFS图像中重构了299阶Zernike模式系数,模型推理速度达到亚毫秒级。除此之外,还在1.8米望远镜241单元变形次镜(Deformable Secondary Mirror,DSM)AOS上测试了SH-CNN探测高阶像差的性能,实现了第66～135阶Zernike模式闭环控制,进一步验证了SH-CNN的泛化性。通过本文的研究,利用深度神经网络实现了超分辨SHWFS波前重构,即重构模式数大于了基于斜率的波前重构方法的理论极限值,减少了斜率法引起的模式混淆和模式耦合误差,解决了SHWFS重构精度有限的问题。其次,利用深度神经网络实现了高速相位恢复,解决了相位差法计算耗时、容易陷入局部最优的问题。除此之外,使用NVIDIA的Tensor RT对本文提出的深度神经网络模型进行了推理加速,加速后计算速度均达到亚毫秒级,进一步证明了深度学习算法应用波前重构的优势,为AOS的波前探测需求提供了一些全新的解决方案。