模分复用技术是大幅增加光通信容量最有前景的方法之一，被认为是光纤通信领域中的第二次革命。模式控制是模分复用技术的前提和关键。模式控制的内涵包含模式激励、模式转换等关键技术。模式激励位于模分复用光纤通信系统发送机最前端，产生系统需要的模式，是模分复用实现的前提;模式转换应用于模分复用光纤通信系统的模式复用前端、模式解复用后端，以及模分复用光网络数据交换核心节点，是模分复用和模式交换的关键。　　论文紧紧围绕模式控制的科学问题和关键技术，对模式激励和转换的条件和实现进行了深入的理论分析、仿真和实验研究。论文以模场匹配为理论指导，提出了实现空间频谱匹配和模场半径预匹配的方法，搭建了基于空间光调制器的模式激励和模式转换实验平台，实验实现了常见的20多个模式的激励以及部分高阶模之间的转换。论文进一步以最大化模式转换相关系数为目标，提出了基于模拟退火算法的任意模式高精度控制方法，最终实现任意模式的快速高精度转换。论文的创新点和主要工作如下:　　1.提出基于模场匹配原理补偿幅度损伤的二进制相位模式控制方法。　　首先从空间频率域分析，提出了基于空间频谱匹配的模式转换方法，通过空间频谱匹配方法补偿径向上的幅度损伤。论文在空间频率域上推导了模式转换传递函数，引入并推导了空间频谱束腰半径，进而提出了通过改变4f系统的两个透镜焦距比例来实现空间频谱匹配的方法，搭建基于空间光调制器(SLM: Spatial Light Modulator)的模式激励和模式转换实验平台，实验实现了LP01到LP22a、LP02到LP22a和LP03到LP22a的转换。然后针对空间频率域方法中通过物理上改变透镜焦距实现匹配存在不够灵活的问题，论文进一步提出了一种基于模场半径预匹配的模式转换方法。论文利用SLM的像素点能灵活可调的优点，从理论上引入模场半径匹配系数，通过软件控制SLM的相位函数实现模场匹配，数值仿真了模场半径匹配系数对模式激励和高阶模式转换的影响，进而在实验中，通过基于模场半径预匹配思想求解SLM的相位滤波函数，灵活补偿模式控制过程中径向上的幅度损伤，实验实现了常见二十多种模式的激励以及部分高阶模式之间的转换。　　2.提出了一种联合相位和幅度调制的模式转换方法。　　第1点中的模式控制方法考虑了传递函数的全部相位信息，同时通过空间频谱匹配或者模场半径预匹配的方法引入了部分幅度信息，最终实现部分高阶模式的转换，但转换精度不高。论文进一步提出了联合相位和幅度调制的模式转换方法。论文利用相同类型的相位型SLM，但对SLM的像素点进行以4个像素点为基本单元的网格划分，以网格内像素的平均值体现传递函数的相位信息，以网格内各个像素点的相位变化值体现传递函数的幅度信息，并在SLM后端结合4f系统和孔径光阑的滤波作用，实现相位和幅度的联合调制，从而补偿了纯相位型SLM的幅度损伤。仿真和实验结果证明，联合幅度和相位调制的模式转换方法能够以更好的转换精度实现更多的模式控制。　　3.提出了一种基于模拟退火算法的任意模式高精度控制方法。　　上述两种方法对模式控制传递函数幅度损伤的补偿仍然不足，不能实现任意模式的转换。论文以模式转换相关系数最大化为目标，建立了任意模式转换的最优化数学模型。接着论文以任意模式转换的最优化数学模型为指导，提出了一种基于模拟退火算法的任意模式精确转换方法，利用模拟退火算法能够以较大概率求得组合优化问题全局最优解的优点，将模拟退火算法引入到模式控制中，设置SLM为二进制相位函数，通过求解相位型SLM传递函数的全局最优解达到最大化补偿幅度损伤，实现了任意模式转换，并明显提高了模式转换的相关系数，转换相关系数在80％以上。针对传统模拟退火算法实现任意模式的精确转换存在耗时较长、模式转换精度还有一定提升空间的问题，论文提出了基于多进制相位调制的高精度快速模式控制方法。论文以模场匹配理论为指导，对SLM的有效面积引入局部自适应方法，结合硬件上的多线程和图形处理单元，通过并行处理技术大大降低了求解相位型SLM最优传递函数时的耗时量，将模式转换的耗时量降低94％以上。在此基础上提出多进制相位的模拟退火算法，将SLM的像素设置为多进制相位函数，实现模式转换相关系数高达99％以上的任意模式高精度快速转换。