无线激光通信系统中由于空间光的模式受到大气湍流的影响,形成光束模式退化,导致与接收端耦合使用的单模光纤模场不完全匹配,从而降低了空间光-单模光纤的耦合效率。因此对光束模式与光纤模式进行匹配尤为重要。本文研究了以液晶空间光调制器为核心架构的自由空间光模式转换方法,并对转换传输函数进行优化处理,实验研究模式转换方案对于单模光纤耦合效率的提高。主要工作如下:1、分析了光纤的模式理论并推导了高低阶模式间互换的转换传输函数表达式,为后期转换模型的建立给予了理论基础。2、利用二进制相位进行了 LP01模式-高阶模式的激励,将其作为湍流退化后的高阶模式,之后利用二进制相位实现了高阶模式-LP01模式的转换,并确立了转换传输函数和相应转换效率评价指标。3、利用模拟退火算法对转换传输函数相位进行了随机扰动优化,分析了初始温度、退火系数、扰动次数和优化区域具体参数的选取对模式转换效率的影响。以转换效率作为评价指标,确立了模拟退火算法优化后的最佳转换传输函数及其相位全息图,较纯二进制相位转换后的转换效率得到了大幅度提升。结合模拟退火算法优化改进了模式转换系统。4、搭建了模式转换下的耦合实验平台,研究了模式转换对耦合效率的影响,实验预处理得到了湍流后的退化高阶模式,之后对比分析了加载优化转换传输函数全息图与无优化时模式转换的结果。研究结果表明:模式转换方案能够有效地提升空间光-单模光纤耦合效率。模拟退火算法优化后的模式转换系统的转换效率高达59.88%以上。在模式转换实验中,各阶模式的转换都较纯二进制转换外围衍射减小,模式转换方案应用到耦合实验系统中,模拟退火算法优化模式转换后的耦合效率较无优化模式转换后耦合效率从49.19%提高到60.29%以上。因此,模式转换对于耦合效率的提高有很大的发展空间。