天文观测用的地基光学望远镜孔径上大气湍流会引起波前相位的变化,使成像系统的点扩散函数达不到理想的衍射极限,这种失真会降低成像系统的分辨率、影响观测图像的质量。为其配备自适应光学系统,实时探测和校正湍流引起的像差,使望远镜能够获得接近衍射极限的分辨率,此时观测到的图像质量得以大幅改善。自适应光学技术核心环节之一是用波前探测器探测非静态像差,其探测精度、速度都将直接影响波前校正的效果。为解决这两个问题,本文把深度学习应用到夏克-哈特曼波前探测之中,保证实时探测的前提下,显著提高波前重构的精度。首先,进行了夏克-哈特曼波前探测的数值研究,分析出传统重构算法的不足之处。波前探的数值仿真主要包括两个方面:用功率谱密度反演法或Zernike模式法模拟湍流相位屏;夏克-哈特曼波前探测器的质心探测和从波前斜率重构出波前的经典重构算法。根据前述理论,基于MATLAB语言编程的数值仿真,实现从相位屏模拟、光点阵探测、波前重构的全过程,进而给出传统重构算法的可改进之处。其次,提出了改进的ResNet50+和U-Net网络结构,提高了波前重构精度和波前探测速度。本文把深度学习用于夏克-哈特曼波前探测,构造出从光点阵图像到畸变波前对应的Zernike系数的非线性函数。为了提高波前探测精度和恢复像差中更多的高频信息,把神经网络模型CNNM3输出的Zernike系数增加到前152项,此时相对误差（残余波前均方差值与真实波前均方差值之比）为0.79%,但是计算时间约为0.102秒。为进一步缩短计算时间,本文把全卷积神经网络中的U-Net用于波前探测,直接在光点阵图像到畸变波前构建非线性函数,其相对误差约为1.29%,计算时间为30毫秒（ms）;为获得更快的探测速度,本文减少U-Net网络中卷积层的通道数以减少总参数量,优化后的U-Net模型的相对误差增至2.36%,但是计算时间降低到10ms,探测速度提高了近3倍。除此之外,卷积神经网络和U-Net也在不同湍流条件下测试,当望远镜口径与大气相干长度之比（D/r0）为20时,U-Net补偿后的残余波前均方差值仅0.15μm。在不同光子噪声条件下,输出Zernike模式系数为前52项的模型CNNM1重构性能最好,即在十星等条件下,其残余波前均方差值不大于0.12μm。第三,从实验室搭建的自适应光学系统验证其校正波前的可行性。搭建自适应光学光路用于校正光路系统中静态像差,把波前均方差值为719.6纳米（nm）的原始波前降至3.38nm,证明了该自适应光学系统完全可以用于波前校正。最后,本文从实验搭建的自适应光学系统采集数据,并使用U-Net进行波前重构。通过对比卷积神经网络和U-Net网络在波前重构方面的差异,确定了U-Net更适用于波前重构。为平衡波前的重构精度和推理时间,对U-Net网络中参数做了优化,网络的输入是从756×756缩小到224×224的光点阵,其输出是48×48的波前相位。经U-NetC补偿后的相对误差约为1.67%,推理时间约为13.6ms,探测速度符合实时探测的标准。