模分复用技术是利用少模光纤中的模式正交性,在不同模式间同时传输多路信号的技术。目前,由于单模光纤的非线性效应,其容量也趋近“香农极限”。因此,需要考虑新的复用技术,来突破当前技术瓶颈以满足网络带宽的更高需求。少模光纤是一种新型传输媒质,纤芯内支持传播的模式数目介于单模光纤和多模光纤之间,与多模光纤相比,少模光纤内部非线性损伤相对较小,更利于长距离传输。少模光纤凭借各个模式之间的正交性,可以实现不同模式之间同时传输信号。基于少模光纤的模分复用技术凭借少模光纤中的多个模式传输信号,实现光纤传输容量的成倍增加,成为大容量光纤传输的关键技术。在实际应用的少模光纤中,由于制作的不理想,如折射率分布不均匀,纤芯偏心以及受到外界压力造成的微弯等因素都会导致光纤内不同模式之间的耦合,即模式耦合。此外,少模光纤中模式间模式群速度不同造成的差分模式群时延,会引起不同时刻脉冲间的前后叠加,形成码间串扰。因此,要在模分复用系统接收端恢复出源信号,接收端数字信号处理部分MIMO均衡是必不可少的。本文的主要工作是少模光纤模分复用系统均衡技术的研究,首先根据Maxwell方程组证明了少模光纤中模式正交性,接着分析了模分复用传输系统中少模光纤传输的链路损伤。采用矩阵传输模型对模分复用系统传输链路进行数学建模,以此来描述模式之间的损伤和相互作用关系。为了探究模分复用系统的传输特性,利用VPI Transmission Maker 9.1嵌入MATLAB来搭建2×2模分复用仿真系统。针对不同传输距离,本文在模分复用传输系统接收端涉及相干检测和直接检测两种接收方案。接收端采用相干检测时,对时频域均衡进行详细介绍,对LMS算法和RLS算法做出详细推导,在搭建的仿真系统中,DSP处理部分分别用时频域LMS和RLS算法进行MIMO均衡,在传统时域LMS算法的基础上提出了VLMS算法,相比传统LMS算法,VLMS算法有更快的收敛速度。本文提出的直接检测模分复用系统中,采用KK联合MIMO均衡来恢复出源信号,在系统中研究了DDMZM和虚载波两种光单边带调制系统。