进入21世纪后,互联网的蓬勃发展、云计算以及大数据等技术的兴起,使得人们对信息数据的需求量呈爆炸式增长,传统光通信技术在时间、频率、及调制编码等维度遭遇瓶颈。在现有光通信系统的基础设施条件下,如何降低投入成本,尽可能提高光纤通信系统的传输容量已成为重点研究的课题。在这样的背景下,模式复用技术作为一种具有巨大应用潜力的系统扩容方式引起了国内外学者的高度关注。通过利用模式这一新的空间维度,结合适用于长距离信号传输的少模光纤,使光纤传输系统的容量成倍提升。然而信道的线性损伤,如差分模式群时延、模式耦合等却严重影响了系统的传输性能。模式之间的相互影响使模式复用系统的信道状况复杂化,导致接收端的解复用难度大幅度提升,成为少模光纤模式复用技术中一个关键性的难题。因此,本文的主要研究目标是通过对少模光纤信道特性的理论分析,开发一种有效且具有更低复杂度的模式解复用均衡算法。围绕上述中心目标,本文进行以下的工作:第一,简要介绍了少模光纤的概念和少模光纤中的传输模式,分析了少模光纤中的主要串扰来源:模式耦合(强,弱)和差分模式群时延对模式复用信号的具体影响,并在以上理论基础上建立少模光纤链路的数学模型。第二,研究接收端模式解复用的时域均衡技术。介绍了自适应信道估计的基本概念及自适应估计的基本算法:最小均方算法(least mean square,LMS),在LMS算法基础上理论推导了单信道恒模算法(constant modulus algorithm,CMA)及时域多模盲均衡算法(time-domain multimodulus blind equalization algorithm,TD-MMA)的原理。最后,将单信道自适应均衡算法进行扩展得到MIMO均衡算法的结构模型及计算公式。第三,研究接收端模式解复用的频域均衡技术。使用块处理和快速傅里叶变换(FFT)实现频域多模盲均衡算法(frequency-domain MMA,FD-MMA)下的模式解复用。FD-MMA包含了 TD-MMA的所有的优势,且相比于TD-MMA,计算复杂度降低,足以满足模式复用系统的要求。最后,基于模式复用系统链路的理论分析建立包含LP01模、LP11a模和LP11b模的3×3少模光纤仿真系统,在接收端进行相干检测,将解调后的信号通过DSP模块处理。解复用时的均衡算法分别使用FD-MMA和TD-MMA,算法的性能通过星座图、误码率和计算复杂度来分析。仿真证明,采用QPSK信号调制,在误码率为10-3时,FD-MMA均衡算法相较于TD-MMA均衡算法的光信噪比平均改善了 2dB。