全息模式波前传感器是近年来提出的一种新型波前传感技术,其利用复用全息元件实现对多阶像差模式的存储与探测,输出信号在一定范围内与各阶待测像差模式系数具有近似线性关系,在转化为波前校正器控制信号过程中不需要复杂的矩阵运算,有助于提高自适应光学系统的工作带宽和紧凑性,从而有望将软件驱动的传统自适应光学系统转化为不需要计算机控制的纯电子电路系统。该传感器对待测光波的强度非均匀性不敏感,能够适用于强湍流、强闪烁环境,在空基高能激光、无人机高清晰成像、自由空间光通信等系统中均有潜在的应用价值。论文分别从理论分析、数值模拟、实验验证和技术扩展四个方面对全息模式波前传感技术进行了深入研究。主要内容包括以下几个部分:1、对模式偏置波前传感技术进行了系统的理论和数值分析。在小像差条件下,分析并推广了传感器输出信号与待测像差模式系数之间近似线性关系的相关因子表达式,即传感器灵敏度因子。通过数值模拟,对比分析了传感器的灵敏度响应曲线特性与待测像差模式的类型与阶数、焦面光斑信息提取方式、传感器信号输出方式等的联系。分析了偏置模式系数、焦面光斑的环围光阑半径、倾斜像差模式的存在等因素对传感器性能的影响。总结了实现多阶模式偏置的波前传感技术方案。研究结果表明:归一化光强差或修正型归一化光强差较适合于作为传感器的输出信号;对于不同的偏置模式,偏置模式系数、焦面光斑的环围光阑半径等参数的合理选择,能够优化传感器的绝对灵敏度、动态测量范围等性能,并有效抑制像差模式间的串扰效应。2、以计算全息编码作为复用全息元件的实现方式,从解析理论和数值模拟两方面对全息模式波前传感技术进行了研究。揭示了全息模式波前传感技术本质上属于多阶模式同步偏置波前传感技术;对比分析了相位型复用计算全息元件的编码设计图、焦面衍射光斑和衍射效率;从灵敏度响应曲线特性、灵敏度矩阵标定、像差模式探测和静态像差闭环校正四个方面,对基于相位型复用计算全息元件的模式波前传感技术进行了数值分析和对比。结果表明:二元相位型复用计算全息元件能够有效抑制零级衍射光斑强度,相对提高一级衍射光斑强度;基于线性载频编码生成的相位型复用计算全息元件具有较高的衍射效率,且灵敏度矩阵为近似对角矩阵;对静态相位屏的探测和闭环校正验证了传感器在开环和闭环自适应光学系统中的性能。3、分别基于空间光调制器和微光刻衍射元件建立了两套实验系统,以动态全息和静态全息方式对全息模式波前传感技术进行实验验证。验证了传感器对单阶模式的灵敏度响应特性,对于编码较多阶模式或二阶载频复用计算全息图的衍射场特性进行了初步验证,实验上对比了不同载频布局对传感器性能的影响效果。4、通过引入三种不同定义和性质的正交模式,将全息模式波前传感技术进行了扩展。以变形镜本征模式作为复用计算全息元件的编码模式,有望实现波前传感器与变形镜的紧密匹配,从而减小闭环校正系统的残差;以Karhunen-Loeve模式作为复用计算全息元件的编码模式,可以使波前传感器更适合于探测大气湍流引起的波前畸变;以Lukosz-Zernike模式作为复用计算全息元件的编码模式,能够有效扩展波前传感器的动态测量范围。