目前通信系统的网络流量正呈指数型地快速增长,但现有的单模光纤传输系统已经接近容量极限,无法满足光纤通信系统日益增长的容量需求。模分复用作为空分复用的一种新型传输方式,利用新的空间维度(光纤模式),可以突破单模传输容量极限,极大地提高光纤通信容量。掺铒光纤放大器(EDFA)作为光传输系统的中继,在长距离光通信传输中发挥着重要的作用。现有的掺铒光纤放大器一般以单模掺铒光纤作为增益介质,仅能放大单个模式,无法满足模分复用系统的需求。在模分复用系统中,若存在较大的模间增益差,则会导致系统容量的下降和中断概率的升高。因此,研制少模掺铒光纤放大器(FMEDFA)、实现不同信号模式的增益均衡成为近几年光通信领域的热点。本文为了实现FM-EDFA的增益均衡,首先介绍光通信的发展历史和趋势,分析总结了国内外关于FM-EDFA的研究现状。以电磁波的麦克斯韦方程组为基础,分别用“标量法”和“矢量法”两种方法推导出光纤的标量模式和矢量模式,并分析了两种模式的截止条件和远离截止条件。随后,本文在FM-EDFA理论模型的基础之上,给出了FM-EDFA理论模型的主要分析方法,并分别通过调控功率配比、旋转角度和环相位三种方法,实现两信号模式的增益均衡,通过遗传算法优化设计铒离子分布,实现四信号模式群组的增益均衡。最后,本文初步搭建了少模光纤传输放大系统的实验装置,进行掺铒光纤的增益分析,观察少模掺铒光纤中不同信号模式随泵浦功率改变时的增益特性,并测量了滤除放大自发辐射后的增益情况。