高能光纤激光相控阵能够实现快速、精确、高效的无机械运动的光束扫描控制,成为下一代高能激光系统的有效选择方案。与微波相控阵相比,由于激光的波长(微米量级)较微波波长(毫米～米量级)短得多,由此带来的单光束波前控制、阵列光束锁相控制、阵列光束大气湍流补偿等问题,是微波相控阵中考虑较少而光学相控阵中必须解决的问题。基于优化算法的无波前传感自适应光学(本文简称优化式自适应光学)能够克服波前测量误差所带来的补偿困难等问题,具有系统简单、结构紧凑等优点,能够同时用于整束光束波前校正和阵列光束锁相控制,是高能光纤激光相控阵系统中的关键技术之一。本文主要围绕光纤激光相控阵中的优化式自适应光学,包括整束光束自适应光学和阵列光束自适应光学,采用理论分析、数值模拟、实验验证方法展开系统的研究。首先,在分析优化式自适应光学基本原理的基础上,对优化式自适应光学进行理论建模和系统分析。建立基于优化式自适应光学的阵列光束相干合成系统模型,证明其收敛特性;分析整束光束自适应光学和阵列光束自适应光学的异同,指出除了受控对象、波前校正器有所不同外,基于优化算法的整束光束自适应光学和阵列光束自适应光学在性能评价函数、优化算法、算法控制器方面可以完全相同,二者可以基于统一的方法进行理论和实验研究。以阵列光束相干合成为主要研究对象,对优化式自适应光学的各个系统模块性能进行对比分析,确定符合实际的相干合成系统各个模块的具体实现方式;以随机并行梯度下降算法为例研究优化式自适应光学的控制带宽、控制精度与各个模块参数的关系。在此基础上,建立光束净化、相干合成的图形化用户界面仿真环境,能够对激光相控阵中基于优化式自适应光学的单元光束净化、阵列光束相干合成进行系统性的仿真。其次,对整束光束净化优化式自适应光学进行理论和实验研究。理论方面,对比研究了基于单元控制器的独立校正方式、Zernike多项式的全局校正方式和单元控制器与Zernike多项式的组合校正方式等不同校正方式下的优化式自适应光学收敛特性。提出基于优化式自适应光学的高阶模式光束净化方案,指出利用该方案有望获得较基模光束更高亮度的激光输出。对光强起伏时算法收敛特性进行理论研究,指出利用桶中功率作为性能评价函数能够有效地消除光强对系统收敛特性的影响。实验方面,对光束净化算法控制器进行设计,将光束净化自适应光学系统迭代速率提高到1kHz。对基模光束净化、高阶模式光束净化、光强起伏对光束净化的影响进行实验研究,验证了理论分析的正确性。研究单元光束波前畸变对阵列光束相干合成的影响,指出在存在波前畸变情况下,光束净化是获得高光束质量相干合成的有效手段。再次,对阵列光束相干合成优化式自适应光学进行理论和实验研究。理论方面,对共形发射和平行发射相干合成系统进行对比分析,指出共形发射相干合成相对于平行发射相干合成的优点。硬件上,设计了国内首个用于相干合成的优化算法控制器,对于16路相干合成,迭代速率达40kHz,理论控制带宽为250Hz、控制精度为λ/44。实验方面,分别实现了四路137W,两路260W和九路1.14kW相干合成输出,其中九路1.14kW相干合成为目前国际上实现的路数最多、功率最高的全光纤放大器相干合成。对相干合成光束的大气湍流补偿进行理论研究,提出用于合成光束湍流补偿的基于信标光的优化式自适应光学方案。在光束净化、相干合成、大气湍流补偿的基础上,提出基于优化式自适应光学全程波前补偿的激光相控阵方案,为激光相控阵系统的发展提供了一定参考。最后,分别从频域(多波长激光相干合成)、时域(脉冲激光相干合成)、空域(高阶模式光束相干合成)和相位控制方法等方面对激光相控阵中的高功率相干合成进行探索研究。提出谱合成-相干合成的高功率相干合成方案,进行不同方式的谱合成-相干合成实验,指出该方案能够将单频激光相干合成的功率提高N-1倍(其中N为谱合成中的不同波长单频激光数目),有望成为未来相干合成的重要发展方向。提出基于单频激光相位调制的多波长激光相干合成方案、主振荡功率放大器结构的混合相位控制相干合成方案,并进行相应的实验研究。提出基于优化算法的主动相位控制脉冲激光相干合成方案,并在国际上首次实现两路混合相位控制的脉冲激光相干合成。提出基于波前补偿的高阶光束相干合成方案,进行了数值模拟,并指出该方案能够有效提高合成光束能量集中度,有望获得较基模光束相干合成更高的功率输出。论文的工作为激光相控阵中整束光束自适应光学和阵列光束相干合成的统一研究打下了基础;对优化式自适应光学进行的系统性理论和实验研究,尤其是对高功率相干合成的相关研究,有望为激光相控阵系统的发展提供一定参考。