近衍射极限大功率光纤激光器功率的进一步提升受到了非线性效应等因素的制约。为了提高非线性效应阈值,采用大模场光纤是最直接、有效的措施。然而,增大纤芯直径的同时将导致可支持的本征模式数量增加,在高功率运行下可能产生模式竞争、模式耦合、模式不稳定等过程,最终导致光束质量的恶化。本文主要研究利用光学相关滤波模式分解方法,围绕大功率光纤激光的模式分解与自适应相位控制这一主题,采用理论分析、数值模拟和实验验证的方法开展了相关研究,主要包括以下内容:1、对基于光学相关滤波方法（Correlation filter method,CFM）的模式分解进行了理论分析与数值仿真,详细介绍了CFM方法的基本原理、透过率函数设计和计算全息图（Computer generated hologram,CGH）的编码流程。在此基础上建立了CFM方法全过程的仿真模型,以15/130光纤和25/250光纤为例,对CFM方法的关键参数参数选择和误差灵敏度进行了研究。2、构建了CFM模式分解实验系统,实现了基于CFM方法的光纤激光实时模式分解。实验中首先通过低功率的多模光束,验证了这一系统的模式分解精度。然后提出了用于大功率光纤激光直接模式分解时的准直型CGH设计方法。利用这一方法对存在模式不稳定现象的大功率光纤激光系统进行了模式分解研究,测量了其平均模式成分随功率提升时的变化。3、研究了基于模式分解的一体化自适应相位校正。针对大功率光纤激光系统中由于高阶模存在而引起的光束质量退化,研究了通过相位校正提高光束质量的手段,提出了基于模式分解的一体化自适应相位校正方法,利用同一个空间光调制器,一方面对携带绝大多数能量的0级光束进行相位校正,另一方面同时在携带光束少部分能量的+1级上进行模式分解。在针对动态多模光束进行的相位校正实验中,远场PIB平均值由补偿前的38.5%提高到补偿后的61.8%。4、提出了基于CFM的矢量光束模式分解与偏振测量方法。首先介绍了通过琼斯矢量分布描述矢量光束的基本原理,以及几何相位与动态相位理论;提出可以通过模式分解测量得到矢量多模光束每个偏振分量的几何相位,然后利用CFM得到两个偏振分量基模的相移干涉条纹,得到动态相位,在此基础上重构出琼斯矢量分布。最后通过实验对这一方法进行了验证。实验中,通过这一方法实现了对动态矢量光束的模式分解与偏振测量,可以给出光纤中各个模式偏振态的动态变化过程,以及光束截面上的偏振分布情况。