云计算、大数据、和人工智能等高新技术每天都在变革式发展,数据业务量在当前光纤传输系统中井喷式攀升,全球对高速大容量传输系统的需求呈指数式增长。然而,现有传输系统在时间、频率、偏振以及多进制编码等维度上的复用技术的发展已经远远无法满足这种容量上的增长,其系统容量将要触达香农极限。因此,研究新的维度并寻求一种实用化高性能大容量的模式复用技术成为研究热点。基于少模光纤的模式复用技术就是在这个背景下发展而来的。本文重点研究了少模光纤在模分复用系统中的传输特性;通过推导出Manakov方程进行建模;然后搭建光学传输实验平台,实现了模式激励和两路不同模式信号的复用传输;最后提出了一种基于迭代注水算法的功率分配和自适应调制优化技术来优化模分复用系统的整体性能。本文主要做了以下三方面工作:一、研究了模分复用系统中的模式和光纤特性,通过推导少模光纤中的光传输特性来分析不同模式的光场分布,然后简单介绍了少模光纤中的模式耦合效应和模间色散效应,为模式复用提供了理论基础。二、分析了少模模分复用系统的模式耦合理论,并对模式耦合传输矩阵进行了建模和仿真。然后,通过研究现有的模式激励机理和实现方法,我们设计并搭建了一个2 × 2的基于空间光调制器的少模模分复用传输光学实验平台,成功实现了基模到LP11a和LP11b模的转换,以及两路不同模式2.5Gbit/s信号在系统中低损耗的复用、传输和解复用。三、研究了少模模分复用系统的调制优化技术,本文通过研究和借鉴传统无线 MIMO (MIMO: Multiple Input Multiple Output)系统中的经典功率分配和调制优化算法,提出了一种基于少模光纤模分复用MIMO系统的调制优化方案,通过对比验证,光功率和调制格式资源的分配得到了优化,系统性能得到了提升。